正則化（L1／L2）

正則化（regularization）是一種防止過度配適的技巧，做法是在模型的配適目標中，對「大係數」加上一個懲罰。模型不再只是把預測誤差最小化，還要為複雜度付出代價，這會把係數往零的方向收縮，讓它不至於為了追逐雜訊而扭曲。

兩種常見的做法差在懲罰的種類：L2（嶺迴歸，ridge）把所有係數平滑地往零收縮、但不會剛好為零，能馴服多重共線性；L1（套索，lasso）則可以把某些係數直接壓到零，等於選出較小的一組特徵。一個叫 lambda 的旋鈕控制懲罰的力道——太小仍會過度配適，太大則會配適不足——通常會用交叉驗證來調校。