logit 偏置（logit bias）

logit 偏置是一把精準工具，讓你能在特定詞元的天平上按下自己的拇指。你提供一份從詞元 id 對應到數字的對照表，在每一步生成時，這些數字會在模型的原始分數（logits）變成機率之前被加上去。正的偏置讓某詞元更容易出現；很大的負偏置則讓它幾乎不可能出現。這是對機率分佈做的一次外科式修改，在模型解碼的每一步都一致地套用。

人們會用它來封鎖髒話或競爭對手的名字、逼一個分類器只能回答「是」或「否」、或輕輕鼓勵某個領域術語。它的鋒利之處：你必須用詞元 id 而非單字來操作，而一個字可能被切成好幾個詞元，所以只偏置其中一塊不見得會如你所願。過強的偏置也可能毀掉流暢度，因為你是在到處覆蓋模型的判斷。面對複雜的約束，以文法為基礎的約束解碼通常更乾淨。