模型合併（model merging）

假設你把同一個基礎模型分別微調成了一個程式設計師、一個翻譯，和一個詩人。模型合併把它們併成單一個三樣都會的模型——完全不必額外訓練——做法是用數學把它們的權重混在一起。

因為這些變體同源，它們的權重活在相容的空間裡，所以技術從簡單的權重平均，到「任務算術」都有——後者把每一次微調當成一個方向（一個任務向量），靠加減這些方向來組合或移除技能。像 TIES 和 DARE 這類方法，會在各個修改彼此衝突時做仲裁。和訓練相比，合併幾乎是免費的，效果又出奇地好，這也是為什麼它撐起了社群模型那條長長的尾巴。

它在模型共用同一個基礎與架構時效果最好；合併不相干的模型，或一次堆上太多個，往往會把它們的能力攪渾，而不是結合起來。