大型語言模型代理與工具使用

代理錯誤復原(agent error recovery)

真實的執行不斷出錯:工具回傳錯誤、網站掛掉、搜尋什麼都沒找到、計畫走到死路。錯誤復原(error recovery)是代理如何察覺這些失敗並回應——靠重試、換一個工具,或退一步修訂計畫——而不是當作什麼都沒發生地一路向前。這就是「絆一下就放棄的代理」和「會繞過障礙的代理」之間的差別。

復原有兩個部分:偵測與回應。偵測是指認出有東西失敗了——一則明確的錯誤訊息很容易,但一個默默回傳無用輸出的工具就難得多,往往需要一個合理性檢查。回應則從面對暫時性小故障的單純重試,到換工具,到當原本的做法明顯壞掉時重新規劃剩下的步驟。把回應對應到失敗的種類,正是這項本事。

最棘手的失敗模式是「無聲的錯誤」:當代理沒意識到自己失敗時,它可能很有自信地把後面的步驟蓋在一個壞掉的結果上,或無止盡地重試同一個註定失敗的動作。所以好的復原仰賴好的訊號與合理的限制——給重試設個上限,讓卡住的代理停下來,而不是空轉。

又称
failure recoveryretry and replan