大型語言模型代理與工具使用
大型語言模型代理(LLM agent)
一般的聊天機器人回答你問的問題,然後等你的下一則訊息。大型語言模型代理(LLM agent)拿到的不是一個問題,而是一個目標——例如「幫我訂週五四個人的位子」——然後自己朝目標前進:決定要做什麼、採取一個動作、看結果、再決定下一步。底層是同一個模型,只是被包進一個讓它能行動、而不只是回覆的迴圈裡。
就機制而言,代理就是跑在迴圈裡的模型。每一輪它看到目標,加上目前為止發生的一切,然後產生最終答案,或一個使用工具的請求。外層程式執行那個工具,把結果接回對話,再呼叫模型一次。如此重複,直到模型認為目標已達成,或碰到某個上限。
難處在於可靠度。因為每一步都依賴前一步,一個錯誤的轉折就可能讓整段執行偏離方向,而每一步微小的錯誤率會在長任務裡層層累積。好的代理是靠護欄、驗證與限制建起來的——而不只是一個聰明的提示。
又称
另见