微調與適配

領域適配(domain adaptation)

通用助理在每個領域都是個能幹的業餘者。領域適配把它變成更接近專家的東西——一個能流利處理法律語言、臨床紀錄,或某套特定程式技術棧的模型——做法是讓它大量浸泡在該領域的文字與任務裡。

實務上這會結合多種技術:先在領域文件上做持續預訓練以吸收詞彙與慣例,再用領域專屬的指令配對做微調以塑造行為。回報是術語上的失誤變少、對領域事實的記憶更好、輸出更貼合專業慣例。風險則是「變窄」:高度適配的模型可能會喪失一部分廣泛的通用能力,所以團隊在專精化的同時,仍會持續盯著通用基準測試。