面向可信自主系统的神经符号 LLM 代理集成验证与验证
人工智能
2026-04-06 v1
摘要
深度学习模型擅长检测正常数据中的异常模式。然而，它们未能为异常分类提供直接解决方案，也难以在 diverse control systems 之间实现可扩展性，经常无法区分因噪声或控制系统大幅瞬态响应而引起的 genuine 故障与妨碍性故障。因此，由于算法故障验证难以扩展，完整的验证与验证 (V\&V) 操作仍由人机交互 (HITL) 分析主导，导致人工作负荷不可持续。为自动化这一关键监督，我们提出 Agent-Integrated Verification and Validation (AIVV)，一种混合框架，部署大语言模型 (LLM) 作为 deliberative 外循环。由于严格的系统验证严依赖于准确的验证，AIVV 将标记为异常的数学问题提升到角色专业化 LLM 议会。议会代理执行协作验证，通过基于自然语言 (NL) 要求对妨碍性故障和 true 故障进行语义验证，以确保高保真度系统验证基线。此后，议会进行系统验证，评估事故后响应是否符合 NL 运行容差，最终生成可操作的 V\&V 制品，如增益调谐建议。针对无人 underwater 车 (UUV) 的时间序列模拟器进行实验，表明 AIVV 成功地数字化了 HITL V\&V 流程，克服了基于规则的故障分类局限，为 LLM 中介监督在时间序列数据领域提供了可扩展的蓝图。
引用
@article{arxiv.2604.02478,
title = {AIVV: Neuro-Symbolic LLM Agent-Integrated Verification and Validation for Trustworthy Autonomous Systems},
author = {Jiyong Kwon and Ujin Jeon and Sooji Lee and Guang Lin},
journal= {arXiv preprint arXiv:2604.02478},
year = {2026}
}