解碼與取樣
min-p 取樣(min-p sampling)
min-p 取樣是較新的、以把握度為相對基準的篩選法。它不靠固定數量(top-k),也不靠累積質量(top-p),而是相對於那個最有可能的詞元來設門檻。你選一個比例——例如 0.05——只保留機率至少是最高詞元機率這個比例的詞元。如果領先詞元落在 0.6,門檻就是 0.03,低於這條線的在取樣前一律剔除。
這能優雅地隨分佈的尖銳程度調整。當某個詞元遠遠高過其他時,門檻也跟著升高,候選池維持緊湊,即使在高溫下也守得住品質;當分佈平坦、許多詞元機率相當時,門檻很低,大量選項得以存活,多樣性因此保留。喜歡它的人看上的是:可以把溫度催到很高來追求創意,又不會像純 top-p 那樣偶爾漏出亂碼。它如今越來越常與 top-k、top-p 並列提供。
另见