神經資料的基礎模型與表徵學習
神經基礎模型
指在大量且異質的神經紀錄集合上進行預訓練(通常為自監督)的大型模型,能產生通用的表徵,並以少量標記資料遷移至許多下游受試者、腦區與任務。此名稱借自語言與視覺領域(Bommasani 等人所稱的「foundation model」),其願景亦相同:在大規模上預訓練一次,之後便可低成本地調適。具體實例包括尖峰族群模型(如 Neural Data Transformer 家族與 POYO/POYO+)、顱內與腦電模型(如 BrainBERT、BENDR、LaBraM),以及嵌入模型(如 CEBRA)。
須將願景與證據分清楚。當前的神經基礎模型在資料量與參數量上都比大型語言模型小上數個數量級,已展示的通用性多半侷限於單一模態、單一物種,且依賴輕度微調而非真正的廣義零樣本遷移。稱一個模型為基礎模型,是在主張其廣泛可重用性,應以留出的受試者與場次來檢驗,而非僅在同分布資料上驗證。
一個有用的區分:「解碼型」基礎模型讀出潛在或行為變數,而「數位孿生」的編碼型基礎模型則預測對任意刺激的反應。兩者以不同目標預訓練,不可互換。
又称
另见