統計解碼與機器學習基礎
線性判別分析(LDA)
一種生成式線性分類器,將每個類別建模為多變量高斯分布,各類別有各自的平均向量,但共用同一個合併的共變異數矩陣。在此假設下,貝氏最佳決策邊界為線性,判別方向為 w = Σ^{-1}(μ1 − μ0)。等價地,費雪準則選出使組間散布對組內散布之比值最大的投影方向。
LDA 在實務 BCI 中佔主導地位,因為在特徵少且經良好設計(頻帶功率、CSP 成分、ERP 振幅)且校正資料有限時,其強偏誤(線性邊界與共用共變異數)帶來低變異,且可用閉式解在無超參數下訓練。其弱點在於共變異數的反矩陣:當特徵數接近試次數時,樣本共變異數病態,LDA 會嚴重過度擬合,這正是收縮法的直接動機。
LDA 常與邏輯斯迴歸混淆;兩者都給出線性邊界,但 LDA 是生成式(建模 p(x|y),由類別平均與共變異數導出邊界),而邏輯斯迴歸是判別式(直接建模 p(y|x)),在高斯假設不成立時更穩健。
又稱
另見