基于行为规范的测试驱动 AI 代理定义 (TDAD):从行为规范编译可使用工具的代理
高能物理 - 唯象学
2026-03-11 v1 核理论
摘要
我们提出了 Test-Driven AI Agent Definition (TDAD),这是一种将 agent 提示视为编译产物的方法:工程师提供行为规范,编码代理将其转换为可执行测试,第二个编码代理不断迭代优化提示直至测试通过。在生产环境中部署使用工具的 LLM 代理需要可衡量的行为合规性,而当前的开发实践无法提供。小幅 prompt 改变会导致隐式退归,工具滥用难以检测,政策违规仅在部署后才会显现。为缓解规范游戏化问题,TDAD 引入了三个机制:(1) 可见/隐藏测试划分,在编译期间保留评估测试;(2) 通过后编译代理生成合理的错误提示变体进行语义突变测试,托架测量测试套件是否检测到这些变体;(3) 规范演化情景量化需求变更时的回归安全性。我们在 SpecSuite-Core 上评估了 TDAD,这是一个包含四个深度规范代理的基准,涵盖政策合规、 grounded analytics、 runbook 遵循和确定性强制等方面。在 24 次独立试验中,TDAD 实现了 92% 的 v1 编译成功率,97% 的平均隐藏通过率;演化后的规范编译率为 58%,大多数失败的运行在所有可见测试通过后仅剩 1-2 个测试失败,显示出 86-100% 的突变得分、78% 的 v2 隐藏通过率和 97% 的回归安全得分。该实现已作为开放基准在 https://github.com/f-labs-io/tdad-paper-code 上提供。
引用
@article{arxiv.2603.08805,
title = {DIS dijet production in Background Field Approach: General formalism and methods},
author = {Tiyasa Kar and Andrey Tarasov and Vladimir V. Skokov},
journal= {arXiv preprint arXiv:2603.08805},
year = {2026}
}
备注
61 pages, 17 figures