面向学习型信息物理系统的可信置信界
机器学习
2021-10-08 v2 机器学习
摘要
信息物理系统（CPS）可受益于使用学习型组件（LEC）（如深度神经网络（DNN））来完成感知与决策任务。然而，DNN 通常是不透明的，使其预测难以推理，因此其应用于安全关键系统极具挑战性。若 LEC 的预测能辅以量化我们对其输出信任程度的置信度量，则其将更易集成到 CPS 中。本文提出一种基于归纳共形预测（ICP）计算置信界的方法。我们训练了一个三元组网络（Triplet Network）架构来学习输入数据的表示，这些表示可用于估计测试样本与训练数据集中样本之间的相似性。随后，这些表示被用于估计基于三元组中使用的神经网络架构的分类器所得集合预测的置信度。该方法使用一个机器人导航基准进行了评估，结果表明我们能够实时高效地计算可信置信界。
引用
@article{arxiv.2003.05107,
title = {Trusted Confidence Bounds for Learning Enabled Cyber-Physical Systems},
author = {Dimitrios Boursinos and Xenofon Koutsoukos},
journal= {arXiv preprint arXiv:2003.05107},
year = {2021}
}
备注
Accepted at the Workshop on Assured Autonomous Systems at the IEEE Symposium on Security and Privacy 2020