评估语义分割的对抗鲁棒性：努力更为致命

机器学习模型对经过优化的微小对抗输入扰动极其敏感，这些扰动旨在引起巨大的输出误差。为了衡量这种脆弱性，我们需要可靠的方法来寻找此类对抗扰动。对于图像分类模型，已经出现了经得起时间检验的评估方法。然而，我们认为，在语义分割领域，对抗扰动灵敏度的良好近似需要远超当前被认为满意的工作量。为支持这一论点，我们进行了大规模经验研究，对多个著名的鲁棒分割模型进行重新评估。我们提出了新的攻击方法，并将其与文献中最强的攻击方法相结合。我们对模型的灵敏度进行了细致分析。结果表明，大多数最先进的模型对对抗扰动的灵敏度远高于之前报告的水平。我们还展示了一种尺度偏置：小对象往往更容易受到攻击，即使大对象具有鲁棒性，这一现象未被当前评估指标揭示。我们的结果还表明，需要多样化的强大攻击方法，因为不同模型往往对不同攻击方式脆弱。