能力與推理

工具增強推理(tool-augmented reasoning)

工具增強推理讓模型不再去猜那些工具能精確回答的事,而是改為呼叫工具。面對一個大乘法,它寫出算式交給計算機;需要今天的價格,它查詢資料庫或網路;被要求分析資料,它就寫程式並執行。模型的工作從「在腦中做完每一步」,轉變為「決定該算什麼、把工作派出去、再把精確結果織回自己的答案」。

這正好發揮模型的強項、補上它的弱點。語言模型極善於挑選策略,卻極不擅長精確的機械計算或回憶最新事實,而那恰恰是工具的拿手好戲。結果是推理既更有能力,也更可被驗證,因為困難的數值或事實步驟如今有了可核對的來源,而非一個自信的猜測。新的失效模式出在接縫處:呼叫錯工具、餵給它壞輸入,或誤讀它的回傳;所以模型仍得「對它的工具」進行推理,而不只是「用工具」推理。

又称
tool useprogram-aided reasoning