top-k 取樣（top-k sampling）

top-k 取樣替隨機性裝上護欄。它不從模型的完整詞彙表取樣——那裡有好幾萬個詞元各帶著微小機率，加起來足以變成真正的胡言——而是只保留機率最高的 k 個詞元（k 可能是 40 或 50），把它們的機率重新正規化成總和為一，再只從這份短名單裡取樣。模型依然能發揮創意，但只能在它真正覺得合理的候選之間發揮。

缺點是 k 是固定的數量，對脈絡視而不見。當模型很確定——只有兩三個詞元說得通——較大的 k 會硬把不該出現的長尾選項拉進來。當模型真的在許多好接續之間難以取捨時，較小的 k 又會砍掉完全沒問題的選擇。top-p（核心）取樣正是為了修這個問題而生：依模型的把握度來決定短名單大小，而不是固定它的長度。