良性過擬合（benign overfitting）

把模型訓練到完全配適每一個訓練點，連標籤雜訊也一併吞下——這是教科書裡的災難食譜——然後卻看著它對新資料幾乎完美地預測。這就是良性過擬合：記住雜訊，結果在測試集上一點代價都沒有。它直接牴觸了古典直覺：在有雜訊的資料上達到零訓練誤差，必然意味著泛化被毀掉。

解釋藏在高維幾何裡。最小範數的內插子必須穿過那些有雜訊的標籤，但它可以把雜訊吸收進資料協方差中大量低變異、近乎無關的方向裡，於是每個方向只承擔一絲絲傷害。當協方差的譜形狀恰當——有許多小方向來吸收雜訊，少數幾個大方向承載訊號——這個內插就是無害的。Bartlett 與合作者針對線性迴歸把這件事講精確了，並給出協方差有效秩的明確條件。

良性過擬合是通往「為什麼過參數化網路在配適一切之後仍能泛化」最乾淨的理論橋樑之一。提醒是：良性是有條件的——改變譜，同樣的內插就會變成有害，所以它是資料幾何的性質，而不是一張可以隨意內插雜訊的萬用通行證。