Skip to content

Memory 架构

LLM 没有天然长期记忆,Agent 的记忆必须由系统来设计。


这节课解决什么问题

  • Agent 的短期记忆和长期记忆分别放哪里
  • 什么信息应该留下,什么信息应该丢弃
  • 为什么 memory 设计错误会直接拖垮 Agent 效果和成本

核心内容

  • In-context Memory:当前会话上下文
  • External Memory:数据库、向量库、日志
  • Episodic Memory:摘要和关键事件
  • Procedural Memory:角色设定、系统规则、工具定义

本节产物

  • 一个带短期记忆和长期记忆分层的 Agent
  • 一套记忆写入与淘汰规则
  • 一份长会话摘要样例

课堂实作

  • 区分哪些信息只留在当前会话,哪些需要持久化
  • 给长对话生成摘要,并把摘要回填成后续上下文
  • 把一条用户偏好或项目事实写进外部记忆并在下一轮读回

并入项目

这一课会直接进入项目一的工作记忆、项目二的知识层、项目三的跨任务状态管理。

面试会怎么问

  • Agent 的记忆和聊天历史有什么区别
  • 什么时候该用 RAG,什么时候该直接保留对话历史
  • 长会话 Agent 为什么要做摘要

大齐 AI 课堂 · 程序员的 Agent 开发课