神經資料的深度學習

自監督預訓練

自監督預訓練藉由解一個「前置任務」(其目標來自資料本身——預測被遮罩的片段、對比時間上相近與相遠的窗、或預測未來活動),從大量未標記的神經資料中學習有用的表示,再於少量已標記的下游任務上微調所學編碼器。它直接針對 BCI 的關鍵瓶頸:標記(經校準、與任務鎖定的試次)稀少且昂貴,而原始 EEG 或 iEEG 卻十分豐沛。

代表性做法包括用於 EEG 的相對位置與時間洗牌前置任務、類 wav2vec 的對比式 BENDR,以及用於皮質內資料的遮罩尖峰重建。一致的發現是資料效率與跨受試者遷移獲得改善,但增益依資料集而異,且當預訓練語料在電極配置、硬體或任務上與目標不同時可能消失——預訓練並不能取代對分布漂移的處理。

一個編碼器先在數千小時未標記的臨床 EEG 上,藉由預測兩個窗在時間上是否相近來預訓練,再於每類僅 20 個試次的運動想像校準上微調;此預訓練模型所達到的準確率,從零訓練需要多得多的已標記試次才能相匹。

豐沛的未標記 EEG 替代了稀少而昂貴的已標記校準試次。

又称
SSLself-supervised learning自監督學習