通过最小化对抗性相互信息来增强 3D 机器人视觉鲁棒性：基于课程训练方法
计算机视觉与模式识别
2024-09-20 v1 信息论
机器人学
math.IT
摘要
对抗性攻击通过小幅精心设计的扰动来利用模型决策边界中的漏洞，从而导致显著的错误预测。在 3D 视觉中，由于数据维度高且稀疏，攻击面大大扩大，使得 3D 视觉在安全关键的机器人应用中尤其脆弱。为了增强 3D 视觉的对抗鲁棒性，我们提出了一种训练目标，同时最小化预测损失和相互信息 (MI)，以控制误预测错误的上限。这种方法比传统方法更简洁，后者需要显式搜索并在对抗样本上进行训练。然而，最小化预测损失与最小化 MI 存在冲突，导致鲁棒性下降和灾难性遗忘。为此，我们在训练设置中集成了课程顾问，逐步引入对抗性目标以平衡训练，防止模型在早期阶段被困难案例压倒。顾问还通过熵正则化鼓励在多样化的 MI 示例上进行训练，从而增强鲁棒性。我们在 ModelNet40 和 KITTI 上使用 PointNet、DGCNN、SECOND 和 PointTransformers 进行评估，在 ModelNet40 上实现了 2-5% 的准确率提升，在目标检测中实现了 5-10% 的 mAP 改进。我们的代码已在 https://github.com/nstrndrbi/Mine-N-Learn 上公开。
引用
@article{arxiv.2409.12379,
title = {Enhancing 3D Robotic Vision Robustness by Minimizing Adversarial Mutual Information through a Curriculum Training Approach},
author = {Nastaran Darabi and Dinithi Jayasuriya and Devashri Naik and Theja Tulabandhula and Amit Ranjan Trivedi},
journal= {arXiv preprint arXiv:2409.12379},
year = {2024}
}