巢狀交叉驗證

當管線含超參數（正則化強度、特徵數、選用哪些通道）時，在報告表現所用的同一份資料上調校它們會洩漏測試集、使分數上偏。巢狀交叉驗證使用兩個迴圈：內層交叉驗證在訓練部分上選擇超參數，外層交叉驗證——其測試折內層從未見過——在每個外折內重新做出這些選擇下估計泛化。所報告的數值為外折的平均。

其成本約為兩迴圈規模在計算上的乘積，回報是對整個模型選擇程序（而非某個幸運組態）近似不偏的估計。報告最佳超參數自身分數的單迴圈交叉驗證是樂觀偏誤，當搜尋大量組態時有時嚴重。