将事实作为一等对象:面向持久 LLM 记忆的知识对象
人工智能
2026-03-19 v1
摘要
大型语言模型日益用作持久知识工作者,其中以情境记忆 - 存储在提示词中的事实 - 为默认策略。我们对比评估了情境记忆与知识对象 (KOs) 的性能,后者是离散的哈希寻址元组,具有 O(1) 检索性能。在情境窗口内,Claude Sonnet 4.5 在 10 到 7,000 个事实上实现了 100% 精确匹配准确率(占其 200K 窗口的 97.5%)。然而,实际部署揭示了三个故障模式:容量限制(提示词在 8,000 个事实处溢出)、压缩损失(概述破坏了 60% 的事实)和目标漂移(连续压缩导致项目约束 54% 丢失,但模型仍保持自信)。KOs 在所有条件下均实现 100% 准确率,成本降低 252 倍。在多跳推理中,KOs 达到 78.9% 的准确率,而情境记忆仅为 31.6%。跨模型复制实验确认压缩损失是架构性的,而非模型特定的。我们还展示了嵌入检索在对抗性事实上(仅 1% 精确率)和神经记忆(Titans)存储事实但无法按需检索的失败。我们引入密度自适应检索作为切换机制,并发布了基准套件。
引用
@article{arxiv.2603.17781,
title = {Facts as First Class Objects: Knowledge Objects for Persistent LLM Memory},
author = {Oliver Zahn and Simran Chana},
journal= {arXiv preprint arXiv:2603.17781},
year = {2026}
}
备注
26 pages, 7 figures