关于具有小汉明距离对抗样本存在性的简单解释
机器学习
2019-01-31 v1 密码学与安全
机器学习
摘要
Szegedy 等人于2013年通过实验发现了对抗样本的存在性，即输入中难以察觉的改变可欺骗训练良好的神经网络，他们称之为“神经网络的有趣特性”。此后，该主题成为机器学习中最热门的研究领域之一，但我们在定向攻击中能在任意两种决策间轻松切换的原因仍远未被理解，尤其不清楚哪些参数决定了为误导网络所需改变的输入坐标数量。本文我们发展了一个简单的数学框架，使我们能从全新视角思考这一令人困惑的现象，将其转化为配备 （汉明）度量的 几何的自然结果，并可进行定量分析。特别地，我们解释了为何在旨在区分 个输入类的任意深度神经网络中，我们应预期找到汉明距离约为 的定向对抗样本。
引用
@article{arxiv.1901.10861,
title = {A Simple Explanation for the Existence of Adversarial Examples with Small Hamming Distance},
author = {Adi Shamir and Itay Safran and Eyal Ronen and Orr Dunkelman},
journal= {arXiv preprint arXiv:1901.10861},
year = {2019}
}