校準稅
你在第一冊與第二冊建立的每一個解碼器 — 速度卡爾曼游標、黎曼 EEG 分類器、深度語音神經義肢 — 基本上都是為單一個人從零訓練,而且往往在每個記錄場次開始時重新校準。這種按人、按日的成本正是這個領域安靜的稅賦:它消耗臨床時間、使病患疲憊,也限制了神經解碼能擴展到多遠。基礎模型正是這片前沿的一項賭注:認為這筆稅可以被攤提 — 在龐大族群上一次付清,之後便能便宜地重複使用。
基礎模型的承諾
所謂神經基礎模型,是一個以自監督目標在廣泛神經記錄語料上預訓練的大型網路,再透過微調、輕量讀出頭、甚至零樣本方式,去適應眾多下游任務。它的價值不在於某個巧妙的架構,而在於把學習問題因式分解成一個昂貴而一次性的表徵階段,以及一個廉價而按次部署的任務階段。
第一階段:在大型語料上最小化無標籤的自監督損失,學到表徵 f。第二階段:凍結(或輕微適應)f,只在稀少的標籤上擬合小小的任務頭 g。
這套經濟學論證頗具說服力:真正耗費臨床心力的是標籤(意圖動作、口說詞彙、情緒評分),而無標籤的神經活動相對而言取之不竭。若表徵已承載了大部分結構,那個渴求標籤的階段就會縮小。
為何大腦不是一疊文字語料
把它類比為語言與視覺的基礎模型雖然誘人,卻在三處漏水。其一,沒有共通的詞彙或座標系:受試者 A 的第 i 個電極所取樣的神經元,與受試者 B 的第 i 個電極並不相同,也不存在一套標準的神經符號字母表。其二,神經資料極度非平穩 — 分布在一天之內、以及跨越各次記錄之間都會漂移,違反了文字所享有的近乎獨立同分布假設。其三,高品質神經資料的總量,相較於支撐大型語言模型的數兆詞元而言微乎其微 — 這正是小資料機制。
前沿地圖
這片前沿最好依感測模態來閱讀。對於脈衝與皮質內活動,神經資料變換器與以脈衝為詞元的模型(POYO)跨場次預訓練。對於頭皮 EEG,像 LaBraM 與 BENDR 這類遮罩式模型會在數千小時上預訓練。對於顱內 EEG,BrainBERT 學習自監督的頻譜圖表徵;對於 fMRI,BrainLM 則是遮罩自編碼式的基礎模型。另有一條支系在建構編碼基礎模型 — 能預測皮質對任意刺激如何反應的神經數位孿生。它們共享同一個以變換器處理神經資料的骨幹構想。
已證實與尚屬願景
對這份清單要一絲不苟。已證實的是:多場次與多受試者預訓練,確實能可量測地減少新場次所需的標籤資料,而編碼孿生也能推廣到未見過的刺激。正在浮現的是:真正的跨受試者遷移,以及神經加語言的多模態模型。仍屬願景的是:單一個腦規模模型,能像語言模型零樣本處理新文件那樣,零樣本套用到任意一位新的人身上。切莫把最後一項當成第一項來引述。