Sitatapatra：阻断对抗样本的可迁移性
机器学习
2019-11-22 v2 密码学与安全
机器学习
摘要
卷积神经网络（CNNs）被广泛用于解决计算机视觉中的分类任务。然而，它们可能被精心构造的“对抗”样本欺骗而误分类——并且为欺骗某一模型而构建的样本往往对其他在同一任务上训练的模型也出奇地有效。本文中我们介绍 Sitatapatra，一个旨在阻断对抗样本可迁移性的系统。它如同密码学那样利用密钥使神经网络多样化，并提供一种检测攻击的机制。此外，当检测到对抗样本时，通常可将其追溯至用于开发它们的单个设备。其运行时开销极小，允许在受限系统上使用 Sitatapatra。
引用
@article{arxiv.1901.08121,
title = {Sitatapatra: Blocking the Transfer of Adversarial Samples},
author = {Ilia Shumailov and Xitong Gao and Yiren Zhao and Robert Mullins and Ross Anderson and Cheng-Zhong Xu},
journal= {arXiv preprint arXiv:1901.08121},
year = {2019}
}