Softmax输出如何误导对抗样本强度的评估
机器学习
2018-11-22 v1 机器学习
摘要
甚至在深度学习架构成为复杂计算机视觉任务事实上的模型之前，鉴于其优雅的性质，softmax函数已被用于分析前馈神经网络的预测。如今，softmax函数的输出也常用于评估对抗样本的强度：即在测试阶段旨在使机器学习模型失效的恶意数据点。然而，在本文中，我们表明可以生成利用softmax函数某些性质的对抗样本，从而在解释手头对抗样本的强度时导致不期望的结果。具体而言，我们认为在分析对抗样本强度时，softmax函数的输出是一个糟糕的指标，并且该指标可被已有的对抗样本生成方法轻易欺骗。
引用
@article{arxiv.1811.08577,
title = {How the Softmax Output is Misleading for Evaluating the Strength of Adversarial Examples},
author = {Utku Ozbulak and Wesley De Neve and Arnout Van Messem},
journal= {arXiv preprint arXiv:1811.08577},
year = {2018}
}