通过重聚焦增强点云网络的鲁棒性
计算机视觉与模式识别
2024-03-13 v3 机器学习
摘要
应对分布外（OOD）损坏与对抗攻击的能力在现实世界安全关键应用中至关重要。在本研究中，我们基于聚焦分析开发了一种提升神经网络鲁棒性的通用机制。近期研究揭示了“过度聚焦”现象，其导致性能下降。当网络主要受小输入区域影响时，它变得鲁棒性较低，且易于在噪声与损坏下误分类。然而，量化过度聚焦仍模糊且缺乏明确定义。在此，我们给出“聚焦”、“过度聚焦”与“欠聚焦”的数学定义。这些概念具有一般性，但在本研究中我们具体考察 3D 点云的情形。我们观察到，与干净训练集相比，损坏集导致有偏的聚焦分布。我们表明，当聚焦分布偏离训练阶段所学到的分布时——分类性能便会恶化。因此我们提出一种无参数的“重聚焦”算法，旨在将所有损坏统一于同一分布下。我们在 3D 零样本分类任务上验证了我们的发现，在 ModelNet-C 数据集的鲁棒 3D 分类以及针对 Shape-Invariant 攻击的对抗防御中达到了 SOTA。代码见：https://github.com/yossilevii100/refocusing。
引用
@article{arxiv.2308.05525,
title = {Robustifying Point Cloud Networks by Refocusing},
author = {Meir Yossef Levi and Guy Gilboa},
journal= {arXiv preprint arXiv:2308.05525},
year = {2024}
}