面向基于感知特征保真度损失的不可感知查询受限对抗攻击
计算机视觉与模式识别
2021-02-02 v1 密码学与安全
机器学习
摘要
近来，大量工作致力于通过与被害样本视觉相似的对抗输入来欺骗基于深度学习的分类器，尤其是图像分类器。然而，研究者通常使用 Lp-范数最小化作为不可感知性的替代，这过度简化了真实世界图像与人类视觉感知的多样性和丰富性。在本工作中，我们利用低层图像特征保真度与人类视觉敏感性之间已确立的联系，提出了一种新颖的感知度量，称之为感知特征保真度损失（Perceptual Feature Fidelity Loss）。我们表明，我们的度量能够稳健地反映并描述在各种条件下生成的对抗图像的不可感知性。此外，我们证明该度量具有高度灵活性，可便捷地集成到不同的现有优化框架中，以引导噪声分布实现更好的不可感知性。该度量在具有受限查询的困难黑盒攻击中尤为有用，其中由于非平凡的扰动能力，不可感知性难以实现。
引用
@article{arxiv.2102.00449,
title = {Towards Imperceptible Query-limited Adversarial Attacks with Perceptual Feature Fidelity Loss},
author = {Pengrui Quan and Ruiming Guo and Mani Srivastava},
journal= {arXiv preprint arXiv:2102.00449},
year = {2021}
}