面向安全人机交互的定量预测监控与控制
人工智能
2024-12-19 v1 人机交互
系统与控制
系统与控制
摘要
AI 系统与人类交互以变革医疗和交通等一系列应用领域的趋势日益增长。然而，不安全的人机交互可能导致灾难性故障。我们提出了一种新颖的方法，该方法通过考虑人类交互的不确定性来预测未来状态，监控预测是否满足或违反安全要求，并基于预测监控结果调整控制动作。具体而言，我们基于带不确定性的信号时序逻辑（STL-U）开发了一种新型定量预测监控器，用于计算鲁棒度区间，该区间指示一系列不确定预测在何种程度上满足或违反 STL-U 要求。我们还开发了一种新的损失函数以指导贝叶斯深度学习的不确定性校准，以及一种新的自适应控制方法，两者均利用了 STL-U 定量预测监控结果。我们将所提方法应用于两个案例研究：1 型糖尿病管理和半自动驾驶。实验表明，所提方法在两个案例研究中均提升了安全性和有效性。
引用
@article{arxiv.2412.13365,
title = {Quantitative Predictive Monitoring and Control for Safe Human-Machine Interaction},
author = {Shuyang Dong and Meiyi Ma and Josephine Lamp and Sebastian Elbaum and Matthew B. Dwyer and Lu Feng},
journal= {arXiv preprint arXiv:2412.13365},
year = {2024}
}