DURA-CPS：面向可靠性保障的 LLM 驱动网络-物理系统多角色编织器
机器人学
2025-06-16 v2 人工智能
新兴技术
人机交互
多智能体系统
摘要
网络-物理系统（CPS）日益依赖先进的人工智能技术以应对关键应用场景。然而，传统的验证与验证方法往往难以处理 AI 组件的不可预测性和动态特性。本文引入 DURA-CPS，一种 novel framework that employs multi-role orchestration to automate the iterative assurance process for AI-powered CPS。通过为专职智能体分配安全监控、安全评估、故障注入和恢复规划等专门角色，在模拟环境中实现 AI 行为的持续评估与迭代优化，满足多维可靠性要求。我们通过自动驾驶车辆在交叉口中基于 AI 的路径规划任务的案例研究，展示了该框架。结果表明，DURA-CPS 能够有效检测漏洞、管理性能影响，支持自适应恢复策略，从而为安全性和安全性关键系统提供结构化且可扩展的 V&V 解决方案。
引用
@article{arxiv.2506.06381,
title = {DURA-CPS: A Multi-Role Orchestrator for Dependability Assurance in LLM-Enabled Cyber-Physical Systems},
author = {Trisanth Srinivasan and Santosh Patapati and Himani Musku and Idhant Gode and Aditya Arora and Samvit Bhattacharya and Abubakr Nazriev and Sanika Hirave and Zaryab Kanjiani and Srinjoy Ghose},
journal= {arXiv preprint arXiv:2506.06381},
year = {2025}
}
备注
Accepted to the 55th Annual IEEE/IFIP International Conference on Dependable Systems and Networks Workshops (DSN-W)