利用变分自编码器回归在信息物理系统学习使能组件中检测对抗样本
机器学习
2020-03-25 v1 机器学习
摘要
学习使能组件（LEC）广泛应用于信息物理系统（CPS）中，因为它们能够处理环境的不确定性与可变性并提升自治水平。然而，已有研究表明 LEC（如深度神经网络（DNN））并不鲁棒，对抗样本可导致模型作出错误预测。本文考虑在 CPS 中用于回归的 LEC 内高效检测对抗样本的问题。所提方法基于归纳共形预测，并使用基于变分自编码器的回归模型。该架构允许同时考虑输入与神经网络预测以检测对抗样本，更一般地，分布外样本。我们在一个开源自动驾驶汽车模拟器中实现的高级紧急制动系统上演示了该方法，其中使用 DNN 估计到障碍物的距离。仿真结果表明该方法能以较短检测延迟有效检测对抗样本。
引用
@article{arxiv.2003.10804,
title = {Detecting Adversarial Examples in Learning-Enabled Cyber-Physical Systems using Variational Autoencoder for Regression},
author = {Feiyang Cai and Jiani Li and Xenofon Koutsoukos},
journal= {arXiv preprint arXiv:2003.10804},
year = {2020}
}
备注
Accepted by Workshop on Assured Autonomous Systems (WAAS2020). arXiv admin note: text overlap with arXiv:2001.10494