记忆

一个智能体就算能读 wiki、任务追踪器、CRM 和三年 Slack 记录,它仍然不知道:决策归谁负责、四份文档哪份是当前版、团队上季度试过又放弃了什么。于是它开始猜,而且信心十足。Tessl 工程博客这篇 “Your AI isn’t stupid. It’s blind.” 的论点是:多数所谓「智能体记忆」只是给失明配了个更大的文件柜。 作者背景可信任:写了 35 年软件,维护每月约 3000 万次下载的 yfinance,过去一年在 VarOps 给跨组织协作的智能体做记忆系统,公开了三个基准、一个测试框架和保留下来的负面结果。 决策一:存主张(claims),不存片段 每条观察提炼成主张:谁、何时、在什么时间段内为真、源文本哪段可作证据,其余有意丢弃。效果:LongMemEval 基准(500 个基于长聊天历史的问题)上,正确证据 99.8% 的问题能进前十结果;摄取 3500 万 token 只花 8.24 美元,跑在两颗 CPU 上,无 GPU。模型还能降级:用 Gemma 4(310 亿参数开放权重)重建整份记录,答案质量只波动 1–2 个点。 「单一前门」的隔离效果:一次基准运行中转换 bug 产出了 5732 条坏提交,前门全部拦下、接受为零;普通存储会把它们全索引进去。 决策二:时间和缺失要显式 什么都不覆盖——新事实取代旧事实时,两条连同日期都留着;每个问题归结为三种状态:已回答 / 搜了没找到 / 超出系统所知。 消融实验值得所有买记忆产品的人记住:同一系统被指示「永远别说信息缺失」,总分几乎不变(88.0 → 87.2),但 30 次诚实拒绝变成了 30 个编造的答案。只按可回答问题评分的话读数是 92.8——发布时用「从不拒绝」协议刷出来的头条数字,要多个心眼。 决策三:权限在模型运行之前决定 两种常见错误:全员共享上下文(系统没法存敏感信息),或者用提示词告诉模型别说(让被约束的对象执行约束)。蒸馏还会破坏文档级权限——一条断言可能来自四个不同权限级别的来源。 正确顺序:先解析身份 → 在该人的授权下检索 → 再调模型;披露级别在写入时确定,不是读取时删减。测试场景:财务读者问收入得到精确值 2,140,000;销售读者问同一主题,得到 2.0M–2.5M 的区间加「上升」趋势,证据里没有一个字节的精确值——权限范围外的人无法区分「被隐瞒」和「没有」。跨五对隔离记忆存储的对抗性探查,45 次全部被拒绝或遏制。 ...