控制过泛化及其对对抗样本生成与检测的影响
计算机视觉与模式识别
2018-10-05 v2 人工智能
摘要
卷积神经网络（CNNs）显著提升了诸多应用尤其是计算机视觉中的最先进水平。然而，CNNs 仍倾向于将来自未知类的分布外样本自信地分类到预定义的已知类中。此外，它们也易受对抗样本攻击。我们通过 CNNs 对训练集未充分覆盖的输入空间区域过泛化的倾向，将这两方面的问题联系起来。我们展示了一个增加额外输出类的 CNN 可作为控制过泛化的简单而有效的端到端模型。作为额外类的合适训练集，我们引入两种计算高效的资源：具代表性的自然分布外集合与插值分布内样本。为在可用集合中帮助选择具代表性的自然分布外集合，我们提出一种简单度量来评估分布外集合的适用性。我们还证明，使用具代表性的自然分布外数据集和一些插值样本训练此种增广 CNN，使其无需在任何对抗样本上训练即可更好地处理广泛的未见分布外样本与黑盒对抗样本。最后，我们展示使用所提增广 CNN 生成白盒对抗攻击会变得更困难，因为攻击算法在生成实际对抗样本时必须绕过拒绝区域。
引用
@article{arxiv.1808.08282,
title = {Controlling Over-generalization and its Effect on Adversarial Examples Generation and Detection},
author = {Mahdieh Abbasi and Arezoo Rajabi and Azadeh Sadat Mozafari and Rakesh B. Bobba and Christian Gagne},
journal= {arXiv preprint arXiv:1808.08282},
year = {2018}
}