迴歸與預測建模

過度配適

過度配適(overfitting)是指模型把訓練資料學得太好,記住了它的隨機怪癖與雜訊,而不是底層真正的模式。明顯的徵兆是:模型在訓練過的資料上表現得漂亮極了,但在它從沒見過的新資料上卻表現很差。

對於參數多、資料少的靈活模型來說,這是核心危險——就像一個把考古題答案背起來、卻解不出新題目的學生。對抗它的方法有:保留測試資料、使用交叉驗證、簡化模型、蒐集更多資料,或施加正則化,讓模型不至於為了配上每一個點而扭曲變形。

又稱
high variance