基于持续同调的神经网络对抗样本检测
机器学习
2017-12-01 v1 机器学习
摘要
我们概述了一种针对深度神经网络对抗输入的检测方法。通过将神经网络计算视为信息从输入空间流向输出分布的计算图，我们比较由不同输入所诱导出的图之间的差异。具体而言，通过对这些诱导图应用持续同调，我们观察到生成第一个同调群的最持久子图的结构在对抗样本与未扰动样本之间存在差异。基于该观察，我们构建了一种仅依赖于训练期间提取的拓扑信息的检测算法。我们在 MNIST 上测试了我们的算法，取得了 98% 的对抗检测准确率和 0.98 的 F1 分数。
引用
@article{arxiv.1711.10056,
title = {Adversary Detection in Neural Networks via Persistent Homology},
author = {Thomas Gebhart and Paul Schrater},
journal= {arXiv preprint arXiv:1711.10056},
year = {2017}
}
备注
16 pages