適應性、抗漂移與終身學習解碼器

持續(終身)學習

指在一條永不終結、不斷變化的資料流——新的日子、新的任務、新的神經統計——上訓練單一模型,使其持續改善並累積能力,而非每次都從零重新訓練。對腦機介面而言,這條資料流就是使用者使用裝置的整段歷史,目標是一個能在多年既往經驗之上整合今日資料、善用穩定之處並吸收已改變之處的解碼器。漂移適應、災難性遺忘的緩解,以及長期穩定化,都歸於此一總綱之下。

持續學習的核心張力是穩定性-可塑性兩難:可塑性足以追蹤新統計的模型,往往會覆寫舊知識;而穩定性足以保留舊知識的模型,則抗拒有用的更新。主要的工具族有:正則化(懲罰對過往表現重要的權重之變動)、重播(將儲存或生成的過往範例與新範例交錯訓練),以及架構成長(為新情境配置新容量)。要在生理性、非平穩、且攸關安全的資料流上——且沒有乾淨的任務邊界——應用這些工具,遠比在多數機器學習基準所用的精選任務序列上困難得多。

又称
lifelong learningincremental learningonline continual learning