Detection of Deployment Operational Deviations for Safety and Security of AI-Enabled Human-Centric Cyber Physical Systems
计算机视觉与模式识别
2026-01-09 v1
摘要
近年来，以人为中心的赛博物理系统越来越多地引入人工智能，以实现从传感器采集数据中提取知识。示例包括医疗监控与控制系统，以及自动驾驶汽车。此类系统旨在按照常规系统操作的协议和指南运行。然而，在许多场景中，例如1型糖尿病患者的闭环血糖控制、自动驾驶汽车以及中风诊断监控系统，此类AI赋能的以人为中心的应用的运行可能会使其面临运行模式不确定的情况，例如由于人与系统交互所致。当系统处于不确定条件时，此类情况可能会违反系统的安全与安保要求。本文将讨论可能导致这些系统在未知条件下运行的运行偏差。随后，我们将创建一个框架，以评估在部署运行中确保AI赋能的以人为中心的赛博物理系统安全与安保的不同策略。然后，作为示例，我们展示了一种基于个性化图像的新颖技术，用于检测1型糖尿病患者闭环血糖控制中未宣告进餐的情况。
引用
@article{arxiv.2601.04605,
title = {Detection of Deployment Operational Deviations for Safety and Security of AI-Enabled Human-Centric Cyber Physical Systems},
author = {Bernard Ngabonziza and Ayan Banerjee and Sandeep K. S. Gupta},
journal= {arXiv preprint arXiv:2601.04605},
year = {2026}
}