让 Agent 少犯同类错误,可以从一个可回查的小闭环开始,而不是先搭知识图谱或承诺永久进化。本文用虚构的社区电影放映资料助手:它把过期场地容量当作当前信息,导致活动说明草稿不准确。我们沿自我反思、长期记忆、持续进化三条线,说明怎样核对原因、保留纠正并将可靠方法变成可复用技能。这里的改进是工作流变化,不是模型权重训练,也不是已执行实验的报告。
用一次具体错误定义目标
先写预期行为:活动说明引用场地容量时,应查当前获准来源与生效日期,信息冲突则标记待确认,不自行选较大数字。记录现有输出、来源版本、错误出现的步骤与影响。不要用“以后更聪明”作验收,也不要把所有错误都归咎于记忆;可能是检索、来源过期、解析或判断标准的问题。
开始前检索 GitHub 的开源实现,参考 LangMem 的信息提取、持久记忆与提示优化路径。它提供组件化方法,但接入仍需存储、模型服务、配置和评估。小规模试点可先使用有版本的本地记录,跑通读写与召回后再考虑框架、图谱和同步。采用开源方案前核对维护、许可、依赖和数据去向,本文没有安装或运行这些组件。
场景一:任务后反思先对照事实
复盘分三栏:观察、解释、候选改进。观察是草稿用了旧版容量且没有日期;解释可能是检索命中了旧文档,也可能是新文档没被索引;候选改进是检索时带版本检查。只有找到查询记录与来源后才能确认原因,不让模型用听起来合理的故事补齐证据。
捕获至少区分命令失败、用户纠正、功能缺失、API 故障与知识过期。它们的恢复不同:缺功能需要补工具或缩小范围,API 故障要判断结果是否未知,知识过期需要回源更新。一个长篇反思不能替代这些分支。会话结束和重要任务完成可做补查,但主机是否有相应 hook 必须验证,异常中断也要有人工补录入口。
电影资料案例的复盘请求可写:“对照原稿、检索记录和两版场地资料,指出哪一步把旧信息当当前;不能确定的原因保留未知;提出一个最小改动和验证样本,不修改全局规则。”输出是带来源的复盘卡,而不是直接将自我评价写入永久记忆。
自我批评应针对可修改行为,不用空泛的自责或重复解释占满记录。成功案例也能提供候选模式,但要区分真正的可靠步骤与偶然答对。反思发现的新要求仍需核对用户目标与授权,不能把模型自己的偏好当成用户的长期指令。
场景二:长期记忆需要作用域和召回验证
每条纠正记录 ID、项目、事实来源、时间、生效范围、原因状态、建议动作与复核日期。示例规则不是“容量固定为某个数”,而是“为这个项目写场地说明时,检查当前获准资料的生效日期;发现冲突先列差异”。把会变的环境事实与稳定方法分开,减少过期记忆误导新任务。
本地 corrections 文件可以作为起点,但需要处理编码、重复、并发与备份。不要将姓名、联系方式、内部场地合同或密钥原样写入全局记忆。保存证据引用与必要片段,明确谁能读取、保留多久以及怎样删除。若用模型从聊天中抽取记忆,可能涉及外部请求,文件最后存本地并不能证明全流程离线。
任务前先按项目与目标检索少量相关规则,显示版本和来源。用新会话验证是否读取,而不是只看文件在不在。测试三个问题:该项目的新活动是否检查日期;另一个项目是否不被错误套用;旧来源失效时是否回源而非继续自信引用。这样才能区分保存成功、召回成功和应用成功。
“长期”不等于永久正确。用户新纠正、政策变化或资料更新都可能使条目退役,保留替代关系与审计线索。普通记忆同样可以有结构和检索,自我改进强调的是反馈到后续行为的验证,不应宣称其他记忆都只是无用聊天历史。
场景三:从可靠经验提炼技能,再选择胜者
把一次成功操作整理成候选方法:输入有哪些来源、怎样识别版本、冲突时输出什么、缺权限时怎样停止、验收依据是什么。技能正文写清触发条件与例外,参考资料按需读取,避免把整段私有会话打包进去。成功复杂任务可以帮助起草技能,但成功一次不等于跨项目可复用。
以电影资料助手为例,候选技能输入是两版获准场地记录与活动需求,输出是来源矩阵、冲突列表和有边界的草稿。它不应顺便预约场地、改变容量数据或公开发布。补入正常资料、旧版本、相互冲突、缺日期、无法访问来源五类样本,先验证最小闭环,再考虑自动触发。
比较旧流程与候选方法时固定任务和模型设置,保留未参与调优的新样本。优先检查是否引用当前证据、是否如实表达未知和是否避免未经授权动作,成本与耗时另列。模型自评分只能辅助,需要可观察断言或独立复核。选择胜者不只看回答顺眼,也要看错误类型与适用范围。
所谓锁定新行为,应是接受一个有版本、可回滚的候选,不是让 Agent 永久改写所有规则。候选没有改善就保持现状,若损害其他任务就退役。知识图谱和跨会话同步只是增强选项:需要命名空间、权限、删除传播和冲突策略,不能因“更进阶”就自动引入。
技能查找与安装前提
先核对主机发现技能的方式、支持的触发器、文件读写范围与网络能力。当前 SkillPI 的 self-improving 检索没有匹配记录,因此不把原文中不同版本或相似名称冒充已核验平台链接。中英文原文推荐的具体名称并不完全相同,也不能仅按中文名称替英文补上安装保证。
未来候选需逐一核对公开详情、固定来源、许可、依赖、记录写入位置和实际用途。用于复盘的技能不自动具备同步、训练或执行权限。引用开源资料是学习路径,安装、运行、连接账户和发布仍按主机要求与用户授权进行。安装量不是质量证明,免费说明也要与 API、存储和维护成本分开。
FAQ 与失败排查
为什么纠正后还会再犯?按顺序检查事件有没有被记录、是否提炼错原因、任务前是否召回、规则有没有冲突,以及实际输出有没有验证。不要一看到复发就加更多文件。需要重基础设施吗?先用一个项目、一条纠正与一组样本证明闭环有效,再增加存储能力。
能否保证同类错误永不再犯?不能,模型行为、上下文与环境都会变化,需要持续回归。能否自己写技能?可以生成草稿,但输入输出、边界和失败处理仍需检查。怎样看装机量?只有可追溯来源和时间口径的数字才能作为特定渠道的使用信号,不能拿它证明当前版本可靠。
验收至少包括复盘卡、脱敏记忆、召回记录、候选技能差异、对照结果与回滚说明。明确哪些检查真的运行、哪些尚待实施;保存原稿与证据,防止下一轮把计划误认为完成。先让一个可测的行为改变,比积累一百条未读教训更有判断价值。
来源与维护
本文依据中英文原文的反思、记忆、进化三类场景原创改写,保留五类触发与成功任务技能化的覆盖,不沿用用户引语、安装量或永久改进承诺。开源方法参考 LangMem 仓库。随着目录新增能力,应核对适用步骤和固定来源再更新关联,并以新反例复测已有规则。