分詞器合併規則（vocabulary merges）

子詞詞彙表不是手工設計的，而是用合併規則從資料中長出來的。一條合併規則就是一道單一指令，例如「只要看到片段『t』後面接著『h』，就把它們合併成『th』」。在訓練過程中，分詞器會學到由幾千條這種規則組成、有先後順序的清單，每條規則都把兩個既有片段併成一個稍長的片段，逐步拼湊出常見片段與完整單字。

訓練會掃過一個大語料庫，反覆找出最該合併的配對——位元組對編碼看最高頻、WordPiece 看最能提高概似度——記下那條規則，並在尋找下一條之前先套用它。完成後的成品是兩樣相連的東西：詞彙表，也就是詞元清單；以及合併規則，說明這些詞元怎麼組出來。在推論時，合併規則會依同樣順序重播，這就是分詞為什麼是確定性的。換掉合併規則，同樣一段文字就會被切得不一樣。