记忆宪政主义

来自 AI 研究立场图谱百科

记忆宪政主义:智能体由它记住的东西定义;持久、结构化的长期记忆就是约束它跨会话行为的宪法。

主张

记忆宪政主义认为,没有持久记忆的模型就是一个天才失忆症患者:每次会话从零开始,每个教训都要重新学,谈不上形成任何”身份”。解决办法不是更长的 context window,而是一份成文的、受管理的记忆:事实、用户偏好、过往经历、自我笔记,agent 每次开工先读,收工时再修订。它像宪法一样显式、可查、有版本、按程序修正,而不是悄无声息地糊进权重里。

在图上它很靠近语言一端,并且落在最底部的 harness 一端。记忆以文本形式保存(笔记、摘要、画像),并且活在模型之外,属于外围系统的一部分。它的范式等级是主流:谈不上革命,只是一个迟到的常识——操作系统之所以有硬盘,是有道理的。

论据

  • 分层记忆的设计在小的工作上下文和外部存储之间换页,能让 agent 的工作长度远超任何固定上下文。
  • 文本记忆可审计:用户能读、能改、能删 agent 对自己的”认知”,微调进权重的东西做不到这一点。
  • Reflexion 一类方法表明,失败后写下语言化的教训、下次读回来,不需要任何梯度更新就能提升后续表现。

批评

  • 模型自己写的记忆会继承模型自己的错误;一条错误笔记一旦存下,就可能被反复检索、不断强化。
  • 存什么、怎么摘要、何时遗忘,本身就是没解决的问题,手调的策略很难跨任务迁移。
  • 长上下文派认为,窗口越来越长之后,大部分精心设计的记忆机制只是在用昂贵的方式重新实现搜索。

代表作

关系

怎样测出它

在完整版或专业版里落到这一格:x ≈ −0.70,y ≈ −0.98,范式 ≈ −0.48。

这是初稿。欢迎通过 pull request 修正或补充更好的论据。 在 GitHub 上编辑这个词条 编辑它的数据