CNN 鲁棒性的交互式分析
计算机视觉与模式识别
2021-10-18 v1 人工智能
人机交互
摘要
尽管卷积神经网络 (CNN) 已作为图像相关任务的最先进模型被广泛采用，但其预测往往对微小的输入扰动高度敏感，而人类视觉对此类扰动具有鲁棒性。本文介绍了 Perturber，一个基于 web 的应用程序，允许用户在交互式扰动 3D 输入场景时，即时探索 CNN 的激活和预测如何演变。Perturber 提供了大量的场景修改功能，例如相机控制、光照和阴影效果、背景修改、物体变形以及对抗攻击，以便于发现潜在的脆弱性。可以直接比较微调后的模型版本，以定性评估其鲁棒性。与机器学习专家的案例研究表明，Perturber 帮助用户快速生成关于模型脆弱性的假设，并定性比较模型行为。通过定量分析，我们能够用其他 CNN 架构和输入图像复现用户的见解，从而获得关于对抗训练模型脆弱性的新见解。
引用
@article{arxiv.2110.07667,
title = {Interactive Analysis of CNN Robustness},
author = {Stefan Sietzen and Mathias Lechner and Judy Borowski and Ramin Hasani and Manuela Waldner},
journal= {arXiv preprint arXiv:2110.07667},
year = {2021}
}
备注
Accepted at Pacific Graphics 2021