交叉驗證

交叉驗證（cross-validation）是更聰明地估計模型「類推到新資料」能力的方法，尤其在資料有限時。在常用的 k 折（k-fold）版本中，你把資料切成 k 等份，然後用其中 k−1 份訓練、用留下的那一份測試，輪流到每一份都當過一次測試折，再把分數平均。

比起單一次切分，它的好處是每個資料點都（在不同時候）同時被用於訓練與測試，給出更穩定、更不靠運氣的表現估計，也能更精準地調校像正則化強度這類設定。代價是運算量——你要配適模型 k 次；而且若你同時用交叉驗證來在許多模型之間做選擇，仍必須保留一個真正最終、從未碰過的測試集。