证据绑定自主研究（EviBound）：消除虚假主张的治理框架
人工智能
2025-11-11 v1
摘要
基于大语言模型的自主研究代理报告虚假主张：任务标注为"完成"但缺失制品、指标矛盾，或执行失败。EviBound是一种证据绑定执行框架，通过要求机器可检验证据的双重治理门槛消除虚假主张。两个互补的门槛强制执行证据要求。执行前的批准门槛在代码运行前验证接受准则模式，主动捕获结构违规。执行后的验证门槛通过MLflow API查询验证制品（包括递归路径检查），可选地在指定接受准则时验证指标。只有在得到可查询运行ID、必需制品以及FINISHED状态支持时，主张才会传递。受限且置信度受控的重试（通常为1-2次）可从暂时性故障中恢复，而不会导致无限制循环。该框架在8个基准任务上进行评估，涵盖基础设施验证、机器学习能力及治理压力测试。基准A（仅提示层面）导致100%幻觉（8/8声称，0/8验证）。基准B（仅验证）将幻觉降至25%（2/8通过验证失败）。EviBound（双门槛）实现0%幻觉：7/8任务通过验证，1个任务在批准门槛正确阻止，仅约8.3%的执行开销。该软件包包括执行轨迹、所有已验证任务的MLflow运行ID，以及4步验证协议。研究完整性是架构属性，通过治理门槛实现，而非从模型规模中产生。
引用
@article{arxiv.2511.05524,
title = {Evidence-Bound Autonomous Research (EviBound): A Governance Framework for Eliminating False Claims},
author = {Ruiying Chen},
journal= {arXiv preprint arXiv:2511.05524},
year = {2025}
}
备注
27 pages, 11 figures, 5 tables. Reproducibility package with MLflow artifacts and Google Colab notebooks available upon publication