尺度定律對大腦成立嗎?
在語言與視覺中,損失會隨參數與資料以平滑的冪次律下降,這正是「儘管把它擴大」成為理性策略的原因。對神經資料而言,這個問題確實懸而未決。關於神經資料尺度定律的研究 — 把更多場次匯集成大規模語料(POYO、LaBraM、BrainLM) — 顯示更多資料與參數大抵有幫助,但曲線嘈雜、機制規模微小,且尚未釘出任何穩定的指數。
L(N,D)\ \approx\ L_{\infty}+\Big(\tfrac{N_{c}}{N}\Big)^{\alpha_{N}}+\Big(\tfrac{D_{c}}{D}\Big)^{\alpha_{D}}
一條 Chinchilla 式的尺度定律:期望損失對參數 N 與資料 D 的關係。此處僅作為模板寫出 — 對神經資料而言,指數 alpha_N、alpha_D 與不可約項並未被可靠地確立。
多模態模型
一片強大的前沿,是在單一模型中把神經活動與其他模態耦合起來 — 一個橫跨神經加行為加語言的多模態神經模型。最鮮明的例子是語意解碼:把 fMRI 或顱內活動對齊到大型語言模型的嵌入空間,使連續的意義得以被重建(Tang 等人)。這正是搭配語言模型在迴路中的腦─模型表徵對齊。
情境內與少樣本適應
運用預訓練骨幹最優雅的方式,是情境內適應:把新場次的一小段有標籤「支持集」交給模型,讓它以此為條件 — 不做梯度步、不重新訓練。近親包括即插即用(零樣本)解碼與用於快速校準的元學習,全都在少樣本跨場次基準上量測。
p_{\theta}\big(y_{\star}\mid x_{\star},\ \{(x_{i},y_{i})\}_{i=1}^{n}\big)\qquad\text{(no update to }\theta\text{)}
情境內解碼:凍結的模型以場次中少數幾個支持範例為條件,預測新查詢的標籤,把校準從一次訓練變成一次前向傳遞。
編碼模型與數位孿生
並非每個基礎模型都在解碼;有些在編碼。編碼基礎模型預測神經元對任意刺激如何反應,一旦訓練完成,便成為一個你能在計算中探測的可查詢神經數位孿生 — 例如能推廣到從未受訓過之刺激類型的小鼠視覺皮質基礎模型。編碼孿生也是通往仿生寫入問題的天然橋樑:要寫入一個知覺,你必須先建模大腦本來會如何編碼它。