統計解碼與機器學習基礎

維度詛咒

隨特徵維度 p 增大,特徵空間體積呈指數成長、資料變得稀疏、距離趨於集中,而待估參數數量(p×p 共變異數約有 p^2/2 個自由元素)相對於試次數 n 爆炸性增加。當 p 與 n 相當或超過 n 時,樣本共變異數奇異、經驗類別平均不可靠,未正則化的分類器擬合雜訊。達到固定準確率所需的樣本數大致隨維度增長。

BCI 長期處於 p ≳ n 的情形:數百個時間×通道特徵對上數十至數百個校正試次。本領域的對策是降維(CSP、xDAWN、PCA、頻帶功率摘要)、強正則化或收縮,以及限制有效參數數的先驗。

又称
small-n large-p problemhigh-dimensional statistics小 n 大 p 問題