对抗样本或许可避免：数据聚集在对抗鲁棒性中的作用

现代机器学习分类器对对抗样本的易感性促使了理论结果的出现，这些结果表明对抗样本可能是不可避免的。然而，这些结果可能过于宽泛，无法适用于自然数据分布。事实上，人类在涉及视觉的任务中相当鲁棒。这一表面上的矛盾促使我们更深入地探究一个问题：对抗样本真的不可避免吗？在这项工作中，我们从理论上证明，数据分布的一个关键性质——在输入空间小体积子集上的聚集——决定了是否存在鲁棒分类器。我们进一步证明，对于聚集在低维线性子空间并集上的数据分布，利用数据结构自然会得到具有数据依赖多面体鲁棒性保证的分类器，在某些情形下改进了可证明认证的方法。