解释用于检测网联自动驾驶车辆中欺骗攻击的雷达特征
密码学与安全
2022-03-02 v1 人工智能
摘要
网联自动驾驶车辆(CAVs)预计将内置用于防御网络攻击的AI系统。机器学习(ML)模型构成了许多此类AI系统的基础。这些模型以像黑箱一样运作而臭名昭著,能将输入高精度地转化为解决方案,但其决策无任何解释支撑。需要解释来传达模型性能、使决策透明,并与利益相关者建立对模型的信任。解释还可指示何时必须由人类接管,例如当ML模型做出低置信度决策或提供多个或模糊的备选方案时。解释也为事后取证分析提供证据。关于可解释ML用于安全问题的研究有限,涉及CAVs的则更少。本文揭示了一个关键但研究不足的传感器数据不确定性问题,用于训练ML攻击检测模型,尤其是在自动驾驶车辆等高度移动且风险规避的平台上。我们提出一个解释传感器输入中确定性与不确定性的模型——这是数据收集中所缺失的特性。我们假设,若无可解释的输入数据质量,给定系统的模型解释是不准确的。我们估计雷达传感器数据中特征的不确定性与质量函数,并通过实验评估将其纳入训练模型。该质量函数使分类器能以错误的类标签准确归类所有欺骗性输入。
引用
@article{arxiv.2203.00150,
title = {Explaining RADAR features for detecting spoofing attacks in Connected Autonomous Vehicles},
author = {Nidhi Rastogi and Sara Rampazzi and Michael Clifford and Miriam Heller and Matthew Bishop and Karl Levitt},
journal= {arXiv preprint arXiv:2203.00150},
year = {2022}
}
备注
Accepted at the AAAI 2022 Workshop on Explainable Agency in Artificial Intelligence Workshop, Virtual. 8 pages, 3 Figures, 4 tables