代理式人工智慧與工具使用

代理記憶架構

代理記憶架構讓一個無狀態的模型,在漫長任務或多次工作階段間「看似」能記住事情。上下文視窗快速但極小且健忘——對話一旦捲出視窗就消失了。記憶架構在視窗之外加上儲存區,讓代理能回想昨天做了什麼、使用者偏好什麼、以及它蒐集到的事實,正如人靠工作記憶再加上筆記本與習慣。

常見設計把短期記憶(當前上下文與一份運作中的草稿區)和長期記憶分開,後者又常拆為情節記憶(過往互動與結果的紀錄)、語意記憶(提煉後的事實與知識)與程序記憶(學到的例程或工具技能)。長期項目通常會被嵌入並存進向量資料庫;每一步代理檢索最相關的條目並插入提示,再把新的觀察與摘要寫回。困難之處在於:要寫什麼、何時壓縮或遺忘,以及如何檢索才能讓對的記憶在對的時刻浮現。

以檢索為基礎的記憶能擴展到遠超任何上下文視窗的歷史,但它是有損的,且好壞全繫於其寫入與檢索策略:一條相關記憶若從未被檢索到,等於被遺忘;陳舊或錯誤的記憶則會誤導後續步驟。上下文長度的增長能減少短時程對外部記憶的需求,卻無法為持久、跨多次工作階段的代理消除這項需求。

記憶儲存區唯有在檢索策略能於對的步驟取出對的條目時才有用——一條取不到的記憶,在功能上等同被遺忘。

又称
agent memorylong-term memory for agents記憶架構