自动驾驶汽车面临的新兴AI安全威胁——案例研究
密码学与安全
2021-09-13 v1 人工智能
计算机视觉与模式识别
摘要
人工智能在自动驾驶汽车领域做出了重大贡献，从目标检测到路径规划。然而，AI模型需要大量敏感训练数据，且构建时通常计算量巨大。此类模型的商业价值驱使攻击者发起各种攻击。攻击者可以出于变现目的发起模型提取攻击，或将其作为模型规避等其他攻击的跳板。在特定情况下，这甚至会导致品牌声誉、差异化和价值主张受损。此外，知识产权法及与AI相关的法律框架仍在发展中，且各国不尽相同。我们通过两个用例和一条通用的攻击链详细讨论了模型提取攻击，该攻击链可对自动驾驶汽车造成破坏。研究管理和缓解模型窃取风险的策略至关重要。
引用
@article{arxiv.2109.04865,
title = {Emerging AI Security Threats for Autonomous Cars -- Case Studies},
author = {Shanthi Lekkala and Tanya Motwani and Manojkumar Parmar and Amit Phadke},
journal= {arXiv preprint arXiv:2109.04865},
year = {2021}
}
备注
6 pages, 4 figures; Manuscript is accepted at ESCAR Europe 2021 conference