通过以人为中心的感知机制实现自动驾驶中的对抗机器学习鲁棒性

对道路标志的物理对抗攻击不断利用现代自动驾驶车辆（AVs）的漏洞，并阻碍其正确分类所遇道路标志类型的能力。当前模型不能很好地泛化输入数据，导致过拟合或欠拟合。在过拟合中，模型记住输入数据但无法泛化到新场景。在欠拟合中，模型未充分学习输入数据以准确分类这些道路标志。本文探讨了自动驾驶系统针对三种主要物理对抗攻击（胶带、涂鸦、光照）的鲁棒性， specifically 针对目标分类器。开发了若干机器学习模型并在两个不同数据集上评估：道路标志（停车标志、限速标志、交通灯和行人横道标志）和几何形状（八边形、圆形、正方形和三角形）。该研究比较了在不同条件下的算法性能，包括在这些数据集上的干净与对抗训练和测试。为构建对抗攻击的鲁棒性，实施了对抗训练和迁移学习等防御技术。结果表明，尽管数据集完全不同，迁移学习模型通过允许从形状训练获得的知识来提升道路标志分类的泛化能力，在性能中发挥了关键作用。本文提出了未来研究方向，包括人在回路验证、安全分析、真实世界测试和用于透明性的可解释 AI。本研究旨在为提升自动驾驶中目标分类器的安全性与鲁棒性以及减轻对抗样本对驾驶系统的影响做出贡献。