智能體與前沿

智能體的規劃與記憶(planning and memory)

/ PLAN-ing and MEM-uh-ree in AY-junts /

規劃,是智能體在動手之前,把一個大目標拆成一串有先後順序的小步驟;記憶,則是它把學到、做過的東西留住的辦法,免得每一刻都從零開始。打個比方,就像一個帶著清單和筆記本的旅人:清單(計劃)寫明該做什麼、按什麼次序;筆記本(記憶)記下發生了什麼、什麼管用、以後要記住什麼。兩者缺一,智能體就只能盲目踉蹌,連自己剛走過的腳印都會忘掉。

為什麼這兩樣需要特別處理:智能體核心的那個模型,有一塊固定大小的「工作記憶」——它的上下文窗口——一次只能裝下那麼多文字,而且它自己不會把任何東西從一次會話帶到下一次。於是規劃要靠外加:提示模型把步驟列出來,或用程式碼盯著一張待辦清單;記憶則要靠外掛的儲存——一份不斷更新的對話摘要、一張記中間結果的草稿紙,或一個智能體可檢索、用來回憶久遠事實的資料庫(常用與檢索增強生成相同的檢索手法)。

對這一切至今有多不穩,得說老實話。模型並不真的「記得」——它只是重讀由外圍系統挑給它看的儲存文字;要是系統忘了去取那條對的筆記,智能體也就跟著忘了。事先定好的計劃,可能在現實與預期一旦不符的那一刻就過時了,而一個脆弱的智能體會照著一個早已不合理的計劃繼續走下去。好的規劃與記憶,與其說是模型自己做到的,不如說是對「該存什麼、何時取回」的細緻工程。

一個被吩咐「規劃一次三天行程」的智能體,先寫下計劃:先訂機票,再訂酒店,再安排活動。幹活時,它往記憶裡記筆記——「使用者偏好靠窗座位」「酒店已訂,確認號X」。一週後,被要求「加一個晚餐預訂」,它檢索那份記憶,回憶起日期和酒店,把晚餐排進去,而不必把一切重新問一遍。

計劃=有序的步驟;記憶=存好的筆記,由系統在相關時回餵給模型。

智能體的「記憶」不是模型在記住——而是外部儲存,由外圍軟體檢索後再貼回提示裡。兩次呼叫之間,模型內部什麼都不會留存。所以記憶的好壞,全看檢索:取回了錯的筆記(或漏掉了對的那條),把智能體帶歪的程度,和徹底忘掉別無二致。

又稱
agent planningagent memory智能体规划智能體記憶长期记忆