迴歸與預測建模

多重共線性

多重共線性(multicollinearity)發生在迴歸中兩個或多個預測變數彼此高度相關、因而帶有重疊資訊的時候。此時模型很難分辨出每個變數各自的貢獻,就像要替兩位永遠唱出一模一樣音符的歌手分別記功一樣。

症狀是係數不穩定、劇烈擺盪且標準誤很大(有時連正負號都翻轉)——然而模型整體的預測卻可能仍然不錯。它傷害的是「解讀」,不一定傷害「預測」。分析者用變異數膨脹因子(VIF)來偵測它,並以拿掉或合併冗餘變數、或使用正則化來因應。

常見的經驗法則是:變異數膨脹因子(VIF)超過約 5 到 10 就值得注意。

又称
collinearity