智能体与前沿

智能体的规划与记忆(planning and memory)

/ PLAN-ing and MEM-uh-ree in AY-junts /

规划,是智能体在动手之前,把一个大目标拆成一串有先后顺序的小步骤;记忆,则是它把学到、做过的东西留住的办法,免得每一刻都从零开始。打个比方,就像一个带着清单和笔记本的旅人:清单(计划)写明该做什么、按什么次序;笔记本(记忆)记下发生了什么、什么管用、以后要记住什么。两者缺一,智能体就只能盲目踉跄,连自己刚走过的脚印都会忘掉。

为什么这两样需要特别处理:智能体核心的那个模型,有一块固定大小的「工作记忆」——它的上下文窗口——一次只能装下那么多文字,而且它自己不会把任何东西从一次会话带到下一次。于是规划要靠外加:提示模型把步骤列出来,或用代码盯着一张待办清单;记忆则要靠外挂的存储——一份不断更新的对话摘要、一张记中间结果的草稿纸,或一个智能体可检索、用来回忆久远事实的数据库(常用与检索增强生成相同的检索手法)。

对这一切至今有多不稳,得说老实话。模型并不真的「记得」——它只是重读由外围系统挑给它看的存储文字;要是系统忘了去取那条对的笔记,智能体也就跟着忘了。事先定好的计划,可能在现实与预期一旦不符的那一刻就过时了,而一个脆弱的智能体会照着一个早已不合理的计划继续march。好的规划与记忆,与其说是模型自己做到的,不如说是对「该存什么、何时取回」的细致工程。

一个被吩咐「规划一次三天行程」的智能体,先写下计划:先订机票,再订酒店,再安排活动。干活时,它往记忆里记笔记——「用户偏好靠窗座位」「酒店已订,确认号X」。一周后,被要求「加一个晚餐预订」,它检索那份记忆,回忆起日期和酒店,把晚餐排进去,而不必把一切重新问一遍。

计划=有序的步骤;记忆=存好的笔记,由系统在相关时回喂给模型。

智能体的「记忆」不是模型在记住——而是外部存储,由外围软件检索后再粘回提示里。两次调用之间,模型内部什么都不会留存。所以记忆的好坏,全看检索:取回了错的笔记(或漏掉了对的那条),把智能体带歪的程度,和彻底忘掉别无二致。

又称
agent planningagent memory智能体规划智能體記憶长期记忆