KnowSafe：人工胰腺系统中知识与数据联合驱动的危险缓解
密码学与安全
2025-07-01 v2 人工智能
系统与控制
系统与控制
摘要
在异常检测和运行时监控方面已取得显著进展，以提升信息物理系统（CPS）的安全性和安保性。然而，对危险缓解的关注较少。本文提出一种知识与数据联合驱动的方法 KnowSafe，用于设计安全引擎，以预测并缓解由针对 CPS 控制器的安全关键恶意攻击或意外故障所导致的安全危险。我们将安全约束的领域特定知识与情境特定的缓解动作同机器学习（ML）技术相集成，以估计系统在远期和近期的轨迹，推断潜在危险，并生成最优纠正动作以保持系统安全。在人工胰腺系统（APS）的两个现实闭环测试台以及一项糖尿病治疗的真实世界临床试验数据集上的实验评估表明，KnowSafe 优于现有最优方法，在预测系统状态轨迹和潜在危险方面达到更高精度、低误报率且无漏报。它还在存在故障或攻击时维持模拟 APS 的安全运行且不引入任何新危险，危险缓解成功率达 92.8%，比仅基于规则（50.9%）和数据驱动（52.7%）的方法至少高出 76%。
引用
@article{arxiv.2311.07460,
title = {KnowSafe: Combined Knowledge and Data Driven Hazard Mitigation in Artificial Pancreas Systems},
author = {Xugui Zhou and Maxfield Kouzel and Chloe Smith and Homa Alemzadeh},
journal= {arXiv preprint arXiv:2311.07460},
year = {2025}
}
备注
17 pages, 11 figures, 11 tables, to appear in the IEEE Transactions on Dependable and Secure Computing (TDSC'25)