機器學習維運與生產

提示版本控制(prompt versioning)

在一個大型語言模型應用中,提示不是程式碼裡的註解,它就是程式:幾個字換個說法,就可能把輸出從正確翻成錯誤、從安全翻成不安全、從便宜翻成昂貴。提示版本控制把提示及其範本當成頭等的可部署產物,各有穩定身分、版本歷史與受控的發布流程,於是一次措辭更動是一個被追蹤、可測試、可逆的部署,而不是埋在某個原始檔裡、未被追蹤的編輯。

具體而言,提示存放在一個與應用程式碼解耦的登錄中,每個版本記錄範本文字、模型與解碼參數(溫度、最大詞元數、停止序列)、相關的工具或函式結構描述,以及評估結果。這讓你能在線上流量上把一個提示版本對另一個做 A/B 測試、把每一筆生產追蹤連結到產生它的確切提示版本、在新提示退步時回退到一個已知良好的提示,並讓非工程人員無需完整程式碼發布即可反覆調整措辭。提示成了系統的一個參數,像模型權重那樣被治理,而非寫死在程式裡。

它之所以重要,正與它之所以被忽視的原因相同:提示感覺像文字而非基礎設施,於是團隊就地修改它,並失去了解釋某個行為變化的能力。賦予模型血緣、登錄、評估閘門與回退的同一套紀律,也適用於提示,而與大型語言模型維運可觀測性結合後,它便闔上了從一次提示更動到其在生產中可量測效果的迴圈。

又称
prompt managementprompt registry提示版本管理