統計解碼與機器學習基礎
偏誤—變異權衡
將期望泛化誤差分解為平方偏誤(模型過於僵化而無法捕捉真實函數的誤差)、變異(對特定訓練樣本敏感所致的誤差)與不可約雜訊。簡單、強偏誤的模型(LDA、少量特徵)變異低,能從極小的校正集泛化;靈活的模型(深度網路、大量特徵)偏誤低但變異高,需要多得多的資料。
BCI 處於小樣本這一端:校正資料昂貴(數分鐘令人疲勞的任務)、訊號含雜訊且非平穩,因此變異項主導。這正是重偏誤、正則化的線性方法仍具競爭力的原因,也是本領域的努力多用於控制變異(收縮、交叉驗證、先驗)而非追逐更低偏誤的原因。
經典的 U 形測試誤差曲線使此權衡可視化;現代過度參數化的網路可呈現雙下降,但該情形所需的資料量在單受試者 BCI 校正中罕能取得。
另见