学习算法的扰动分析：对抗样本生成的统一视角
机器学习
2018-12-19 v1 人工智能
信息论
math.IT
机器学习
摘要
尽管深度神经网络在各种学习问题中取得了巨大成功，但已观察到向这些架构的输入添加故意设计的对抗扰动会导致高置信度错误分类。在本工作中，我们提出了一个基于学习算法扰动分析的通用框架，该框架由凸规划组成，能够恢复许多当前的对抗攻击作为特例。该框架可用于在多种新约束下提出针对分类与回归任务学习算法的新攻击，且在许多情况下具有闭式解。特别地，我们推导了针对分类算法的新攻击，其性能与显著的现有攻击相当。该框架随后被用于生成回归任务的对抗扰动，包括单像素和单子集攻击。通过将此方法应用于自编码与图像着色任务，表明对抗扰动也能有效扰动回归任务的输出。
引用
@article{arxiv.1812.07385,
title = {Perturbation Analysis of Learning Algorithms: A Unifying Perspective on Generation of Adversarial Examples},
author = {Emilio Rafael Balda and Arash Behboodi and Rudolf Mathar},
journal= {arXiv preprint arXiv:1812.07385},
year = {2018}
}
备注
arXiv admin note: text overlap with arXiv:1803.03607