深度神经网络中对抗样本的早期可迁移性
机器学习
2022-06-10 v1 密码学与安全
摘要
本文将描述并分析一种此前未知的新现象，我们称之为“早期可迁移性”。其本质在于，对抗扰动在不同网络的训练极早期阶段即可相互迁移。事实上，人们可以用两种不同独立随机权重初始化两个网络，并在每步训练后测量它们对抗扰动之间的夹角。我们发现，尽管由于训练处于早期阶段，两个网络的精度尚未从其初始较差值开始提升，但这两种对抗方向在最初几步训练（通常仅使用可用训练数据的一小部分）后便已开始相互对齐。本文旨在从实验上呈现该现象，并为其部分特性提出合理的解释。
引用
@article{arxiv.2206.04472,
title = {Early Transferability of Adversarial Examples in Deep Neural Networks},
author = {Oriel BenShmuel},
journal= {arXiv preprint arXiv:2206.04472},
year = {2022}
}