微調與適配

對話範本與格式(chat template)

當你和助理對話時,模型其實看不到整齊的訊息泡泡。在幕後,整段對話被攤平成一條長字串,由特殊的標記詞元告訴模型:系統指示在哪裡結束、使用者的回合從哪裡開始、助理該從哪裡接著回覆。對話範本就是負責插入這些標記的那份配方。

每個模型家族都有自己的範本——像角色標頭、回合結束標記這類特定的詞元或字串——而且必須和模型微調時所用的格式一致。用錯範本,模型就會搞不清楚現在輪到誰,常常開始胡言亂語,或乾脆以使用者的口吻自問自答。函式庫會為每個模型附上對應的範本,好讓你的訊息完全按照訓練時預期的方式組裝起來。

一個常見又惱人的錯誤:把某個模型的對話範本套到另一個模型上。永遠使用你所執行的那個檢查點隨附的範本。