利用 Fisher 信息检视对抗样本
机器学习
2019-09-13 v1 人工智能
机器学习
摘要
对抗样本是为欺骗人工神经网络而设计的微小扰动输入。本文研究了 Fisher 信息用于检测此类对抗攻击的可用性。我们讨论了多种计算复杂度随网络规模良好缩放的量，研究它们在对抗样本上的行为，并展示它们如何突出单个输入神经元的重要性，从而提供一种可视化工具以进一步分析神经网络（不合理）的行为。我们的方法在 MNIST、CIFAR10 和 Fruits-360 数据集上的应用展示了其潜力。
引用
@article{arxiv.1909.05527,
title = {Inspecting adversarial examples using the Fisher information},
author = {Jörg Martin and Clemens Elster},
journal= {arXiv preprint arXiv:1909.05527},
year = {2019}
}
备注
4 figures