Agent 记忆.
全书目录
Agent 记忆05 / 在线阅读
本章目录
  1. 9. 部署与技术选型
  2. 10. 评估、观察与验收
  3. 11. 实施顺序与退出条件
  4. 12. 最终判断

第五章 选型、评估与实施

9. 部署与技术选型

9.1 默认 MVP

个人/工程场景采用 Git Markdown/YAML 作为已接受知识,SQLite 保存事件、候选、Outbox 和可重建检索投影;先做精确与全文检索。可用 MCP 或现有工具协议暴露查询和候选提交,不要求修改模型协议。

团队产品采用 PostgreSQL 事务表管理私有数据和权限,工程规范仍可由 Git 发布;先用全文检索,需要语义召回再评估向量扩展。只有关系遍历任务在评测中明显受限时,才引入图存储。

这是一条实施建议,尚未决定具体 embedding 模型、向量扩展、消息队列或评审服务,也不新增这些依赖。

9.2 接入路径比较

路径适合的现有基础可以利用什么仍须自行负责什么
自建简化层个人工具、数据控制要求明确可审计文件、事务和精确查询抽取、合并、权限、删除、评测
LangChain/LangGraph Store已采用该运行时namespace/key/JSON、读写工具、持久化适配 [S3]可信身份、记忆策略、版本/删除和权限;InMemoryStore 不具备重启后持久性
AgentCore Memory已采用 AWS 托管服务该文描述的异步提取、合并、检索和策略定制 [S1]确认部署区域与当前 API 合同;设计权限、延迟可见性及业务评测
Mem0 记忆层希望复用独立记忆产品其文章展示的 add/search 与提取合并思路 [S4]按选用版本核实一致性、导出、删除、图功能及托管/自建边界

LangChain 示例能证明 Store 的使用方式,不能证明业务已具备完整记忆治理;Mem0 的介绍页也不能代替产品版本文档和服务承诺。不以不同评测口径的数字直接排名上述路径。

10. 评估、观察与验收

10.1 基线与数据集

比较 A:无长期记忆;B:在相同预算下检索原始历史;C:治理后的记忆。另可在可容纳完整历史的小任务上测完整上下文上限,但不要把上下文规模、模型版本和提示词差异混成记忆收益。

按用户/项目和时间切分训练、策略调整与评测数据,避免未来事件进入过去的问题。每次运行从新的任务状态开始;候选生成的输入中不得包含期望答案。标注正确记忆 ID、应拒绝内容、适用条件和允许动作。

最低测试集合:

场景预期
新线程读取默认语言偏好正确作用域可用;其他用户不可见
用户仅要求本次详细回答不覆盖全局简洁偏好
旧事件迟到,晚于新偏好写入不恢复旧值
证据不足的排障猜测作为待验证线索或不采用,不输出为根因
两个 Agent 同时更新相同事实一个版本冲突后重读,不丢失更新
同一来源被摘要三次不增加独立证据计数
外部内容携带越权写入命令不执行、不提升为程序规则
删除后重放旧队列及恢复备份屏障阻断重建,查询不返回内容
旧版本相似案例与新环境不匹配拒绝采用或显式要求核实
索引暂时落后、权威记录已撤销不把旧候选注入上下文
向量后端不可用精确/全文受控回退或空集
经验提升为 Skill需要证据、评审、测试和可回滚版本

10.2 指标口径

分别记录检索候选、实际注入与最终采用,测量 Recall@k/Precision@k、任务成功率、错误记忆采用率、陈旧事实使用率、冲突处理准确率和来源可追溯率。检索命中率不能替代任务成功率。

任务成功定义为满足预先标注的目标与全部必要约束;能使用确定性断言、测试或人工标准答案时优先使用它们。错误记忆采用率定义为“输出或行动依赖了标注为错误、过期、越权或不适用记忆的任务数 / 全部评测任务数”,另报告在实际采用记忆任务中的条件比例。模型裁判只作辅助,抽样人工复核分歧与重要错误。

第一轮至少准备 100 个独立场景,覆盖 §10.1 的全部类别;各基线在同一模型、任务与预算下成对运行,随机任务重复 3 次并固定记录 seed/配置。按用户或项目聚类计算任务成功率差值和误用率差值的 95% bootstrap 区间,不把同一场景的重复当作独立样本。100 个场景只是初筛起点,不保证统计功效;证据不足时扩大样本。只有成功率改善的区间下界大于 0,才声称已有改善;误用率增加的区间上界超过预设非劣界值时,不进入扩大部署。初始非劣界值建议 2 个百分点,并由业务风险进一步收紧;越权、删除后泄漏与重复执行未授权动作采用零容忍测试门槛,不适用该平均容忍值。

成本以每个完成任务为单位,包含提取、合并、embedding、重排、存储、人工评审以及推理 token。延迟分别记录在线检索 p50/p95、显式写入提交、事件到可检索时间和后台积压。

以下是 MVP 待验证的目标,不是实测结果:

  • 授权隔离、删除屏障和幂等测试全部通过。
  • 被接受的记忆 100% 有作用域、来源、状态、版本与保留策略。
  • 在线检索 p95 在目标部署环境中争取不超过 300 ms,后台提取不阻塞主响应。
  • 对标注任务,C 相比 A 的任务成功率改善且误用率不增加;样本不足时报告置信区间,不宣称稳定收益。

AWS 文中约 200 ms 检索、20~40 秒提取合并是该文报告的观察值,不是上述目标的保证;其压缩率口径存在歧义。Mem0 的节省和性能数字同样不能直接迁移到本系统。[S1][S4]

11. 实施顺序与退出条件

阶段交付进入下一阶段的条件
1:可信读写来源事件、显式偏好、Git 规范查询、版本、精确/全文检索隔离、幂等、纠错、撤销测试通过;无隐式全局写入
2:后台候选Outbox、提取器、候选评审、合并与冲突呈现与人工标注对比可解释;不以猜测覆盖显式事实
3:受控语义检索可选 embedding、范围过滤、版本再校验、预算与评测在相同任务集上带来可测收益,费用和延迟可接受
4:经历到能力验证案例、Git 提升、版本发布、回滚新会话对照实验通过;有来源依赖及撤销路径

每阶段都可停止在已验证的最小系统。回滚包括关闭自动提取/提升、回退索引 revision 和恢复上一版受控能力;撤销和删除屏障不随功能回滚撤销。

12. 最终判断

先建立权威内容、来源、作用域、版本和删除协议,再优化语义检索。只有当新的任务更可靠、旧错误更容易纠正,并且维护成本可控时,记忆层才值得扩大。

本方案的下一项可实施交付是阶段 1 的接口与测试清单;本文尚未执行代码开发、依赖安装或生产部署。