约束非确定性:作为 DBMS 的 AI 驱动研究系统,实现可靠、非浪费、透明和协作的研究 [愿景]
数据库
2026-07-11 v1 人工智能
摘要
进行研究的 LLM 智能体(提出想法、编写和运行代码、分析结果)已经可以将一项研究从研究问题带到图表,但不能完全被信任。连续两次提出相同的问题会返回不同的答案;智能体宣布一个没有执行产生的数字,而工具使用并不能防止这种情况,因为没有任何东西将智能体报告的内容与其工具返回的内容绑定;一个小的上游变化使下游结果静默地过时,无法列出哪些结果过时;智能体重新运行预处理并重写它已经生成的代码。我们认为这些失败有一个共同的根源:当今智能体循环的每一步都是一个随机的 LLM 调用,其内部状态没有人(包括智能体)可以检查。我们不是试图看穿 LLM,而是从数据库中吸取教训,数据库在没有被监视的情况下赢得信任,因为对定义良好的状态的确定性操作使其保证在构造上成立。我们提议以同样的方式组织一个研究项目。该项目生活在一个确定性的、版本化的数据流引擎中(实际上,是一个基于物化视图的查询计划),而 LLM 与用户一起,是一个只能编辑该计划的随机编译器。执行器从不调用 LLM;LLM 输出仅作为版本化的代码和数据进入,然后由执行器运行,任何断言的结果只有在有执行支持的情况下才能进入记录。在这个边界上的五个设计规则将熟悉的数据库机制,从版本控制和溯源到增量维护和基于成本的调度,转化为使研究可靠、非浪费、透明和协作的保证。本报告介绍了诊断、需求和设计;保证演练、原型和研究议程出现在正在准备的完整版本中。我们认为,LLM 应该是查询编译器,而不是执行器。
引用
@article{arxiv.2607.10508,
title = {Confining Nondeterminism: AI-Driven Research Systems as DBMSs for Reliable, Non-Wasteful, Transparent, and Collaborative Research [Vision]},
author = {Kyoungmin Kim and Anastasia Ailamaki},
journal= {arXiv preprint arXiv:2607.10508},
year = {2026}
}