中文

COCORELI:强制执行执行前置条件以实现可靠的协作式指令遵循

计算与语言 2026-05-05 v2 人工智能

摘要

执行人类指令的自主智能体即使在指令不完整时也必须可靠运行。虽然最近的方法改进了对缺失信息的检测,但仅靠检测是不够的:智能体通常在认识到欠规范后仍继续执行,导致错误或不安全的操作。我们将这种失败归因于检测与执行之间缺乏耦合,并提出可靠的行为要求将缺失信息作为执行动作的前置条件予以强制执行。我们在 Cocoreli 中实例化了这一原则,这是一个模块化架构,表示任务结构、跟踪缺失信息,并阻止执行,直到通过有针对性的澄清解决所需细节。在 Cocoreli 中,检测与预防在结构上是耦合的:检测到缺失参数会同时阻止执行。我们在一个隔离了欠规范和顺序执行的受控构建环境中评估了 Cocoreli。Cocoreli 在构造上就能在规范未解决时阻止执行,从而消除幻觉动作。相比之下,思维链、提示链和 ReAct 风格推理尽管检测率较高,但在规范不完整时仍可能执行。相同的表示支持抽象和重用,并可泛化到 ToolBench 上的 API 工作流任务。这些结果表明,可靠的协作执行需要架构层面的强制执行,而不仅仅是模型能力。

关键词

引用

@article{arxiv.2509.04470,
  title  = {COCORELI: Enforcing Execution Preconditions for Reliable Collaborative Instruction Following},
  author = {Swarnadeep Bhar and Omar Naim and Eleni Metheniti and Bastien Navarri and Loïc Cabannes and Morteza Ezzabady and Nicholas Asher},
  journal= {arXiv preprint arXiv:2509.04470},
  year   = {2026}
}

备注

24 pages