是熊猫还是非熊猫？利用交互式可视化理解对抗攻击
人机交互
2024-10-08 v2 计算机视觉与模式识别
摘要
对抗机器学习(AML)研究能够欺骗机器学习算法产生错误结果的攻击，以及针对最坏情况攻击以增强模型鲁棒性的防御。具体到图像分类，由于对抗攻击使用了人类不可解释的细微扰动，且攻击影响受多样的方法论、实例差异和模型架构影响而具有变异性，理解对抗攻击颇具挑战。通过与 AML 学习者和教师的设计研究，我们引入了 AdvEx，一个多层次交互式可视化系统，为新入门的 AML 学习者全面呈现不同图像分类器上规避攻击的属性与影响。我们在包含用户研究和专家访谈的两部分评估中对 AdvEx 进行了定量与定性评估。结果表明，AdvEx 不仅作为理解 AML 机制的可视化工具极为有效，还提供了引人入胜且愉悦的学习体验，从而展示了其对 AML 学习者的整体益处。
引用
@article{arxiv.2311.13656,
title = {Panda or not Panda? Understanding Adversarial Attacks with Interactive Visualization},
author = {Yuzhe You and Jarvis Tse and Jian Zhao},
journal= {arXiv preprint arXiv:2311.13656},
year = {2024}
}