MORTAR: 一种面向 AI 赋能的信息物理系统的基于模型的运行时动作修复框架
软件工程
2024-08-08 v1 人工智能
摘要
信息物理系统（CPS）正日益广泛应用于各种工业和日常生活领域，应用范围涵盖机器人操作到自动驾驶。随着人工智能（AI）的最新进展，基于学习的组件，尤其是 AI 控制器，已成为提升 CPS 功能性和效率的关键。然而，这些 AI 控制器缺乏可解释性，给 AI 赋能的信息物理系统（AI-CPS）的安全与质量保证带来了挑战。现有的提升 AI 控制器安全性的方法通常涉及神经网络修复，这需要借助额外的对抗样本进行重新训练，或访问神经网络的内部详细信息。因此，这些方法对于黑盒策略的适用性有限，因为在运行过程中只能访问输入和输出。为克服这一限制，本工作提出 MORTAR，一个面向 AI-CPS 的运行时动作修复框架。MORTAR 首先构建一个预测模型，用于预测 AI 控制器所提出动作的质量。若检测到不安全动作，MORTAR 则启动修复过程以纠正该动作。修复动作的生成通过由预测模型提供的安全估计引导的优化过程来实现。我们在多种 CPS 任务和 AI 控制器上评估了 MORTAR 的有效性。结果表明，MORTAR 能够在指定的安全规范下高效提升 AI 控制器的任务完成率。同时，它保持了极低的计算开销，确保 AI-CPS 的实时运行。
引用
@article{arxiv.2408.03892,
title = {MORTAR: A Model-based Runtime Action Repair Framework for AI-enabled Cyber-Physical Systems},
author = {Renzhi Wang and Zhehua Zhou and Jiayang Song and Xuan Xie and Xiaofei Xie and Lei Ma},
journal= {arXiv preprint arXiv:2408.03892},
year = {2024}
}