评估越野自动驾驶分割对抗攻击的鲁棒性：以数据集为中心的分析
计算机视觉与模式识别
2024-02-06 v1 机器学习
摘要
本研究调查了在越野自动驾驶领域中，语义分割模型对对抗性输入扰动的脆弱性。尽管在一般条件下表现良好，但最先进的分类器通常容易受到（甚至）微小扰动的影响，最终导致以高置信度做出不准确的预测。先前的研究侧重于通过修改架构和使用含噪输入图像进行训练来增强模型的鲁棒性，但未探讨数据集在对抗攻击中的影响。我们的研究旨在通过检查越野数据集中非鲁棒特征的影响，并比较对抗攻击对不同分割网络架构的影响来填补这一空白。为此，我们创建了一个仅包含鲁棒特征的鲁棒数据集，并在此鲁棒化数据集上训练网络。我们对研究结果进行了定性和定量分析，这对提高越野自动驾驶应用中机器学习模型的鲁棒性具有重要意义。此外，这项工作通过评估分割输出的鲁棒性，为自主机器人Unimog U5023在崎岖越野非结构化环境中的安全导航做出了贡献。代码公开于 https://github.com/rohtkumar/adversarial_attacks_ on_segmentation
引用
@article{arxiv.2402.02154,
title = {Evaluating the Robustness of Off-Road Autonomous Driving Segmentation against Adversarial Attacks: A Dataset-Centric analysis},
author = {Pankaj Deoli and Rohit Kumar and Axel Vierling and Karsten Berns},
journal= {arXiv preprint arXiv:2402.02154},
year = {2024}
}
备注
8 pages