大型語言模型代理與工具使用

工具選擇(tool selection)

當代理手上有許多工具——搜尋引擎、計算機、資料庫查詢、寄信器——它得先決定哪一個適合眼前這一步。工具選擇(tool selection)就是這個抉擇:把當下的需求對應到正確的器械,就像你看到螺絲時會去拿螺絲起子、而不是鎚子。挑錯,這一步就失敗或浪費一輪;挑對,任務就往前推進。

模型是根據你提供的工具說明來做這個選擇:它讀每個工具的名稱與摘要,拿來跟自己想做的事比對,然後對最相符的那個發出呼叫。工具箱愈大,選擇就愈難——說明開始彼此重疊,長長的清單也擠爆脈絡視窗。常見的對策是:寫清楚、彼此區隔分明的說明,在模型看到之前先依相關性分組或過濾工具,並讓啟用中的工具集保持精簡。

選擇與引數是兩種不同的失誤,除錯時把它們分開看會有幫助:代理可能挑到最完美的工具,卻填了錯的輸入;也可能選了一個笨拙的工具,結果竟然還是行得通。觀察它犯的是哪一種錯,能告訴你該修的是工具說明,還是你給模型的範例。

又稱
tool routingtool choice