具有机器学习组件的信息物理系统的保障监控
机器学习
2020-04-21 v2 机器学习
摘要
深度神经网络等机器学习组件在信息物理系统(CPS)中被广泛使用。然而,它们可能引入新型危险,造成灾难性后果,需要加以解决以构建可信系统。尽管深度神经网络提供了先进能力,但仍须辅以工程方法和实践,以实现在 CPS 中的有效集成。本文研究如何利用保角预测(conformal prediction)框架对带有机器学习组件的 CPS 进行保障监控。为实时处理高维输入,我们使用学习模型嵌入表示来计算非一致性分数(nonconformity scores)。通过借助保角预测,该方法提供良好校准的置信度,并能在限制无法做出准确预测的输入数量的同时,实现监控以保证有界的小错误率。使用德国交通标志识别基准(German Traffic Sign Recognition Benchmark)和机器人导航数据集的实证评估结果表明,错误率得到了良好校准,且警报数量较少。该方法计算高效,因此有望用于 CPS 的保障监控。
引用
@article{arxiv.2001.05014,
title = {Assurance Monitoring of Cyber-Physical Systems with Machine Learning Components},
author = {Dimitrios Boursinos and Xenofon Koutsoukos},
journal= {arXiv preprint arXiv:2001.05014},
year = {2020}
}
备注
Accepted at TMCE 2020