基于攻击中心视角的机器学习模型对抗样本可迁移性评估方法
机器学习
2021-12-06 v1
摘要
对抗样本的可迁移性因其对机器学习系统部署可靠性的影响而成为一个严重问题，因为它们已渗入许多关键应用。了解影响对抗样本可迁移性的因素可帮助专家就如何构建稳健可靠的机器学习系统做出明智决策。本研究的目的是通过一种以攻击为中心的方法，提供关于对抗样本可迁移性背后机制的见解。这种以攻击为中心的视角通过评估机器学习攻击（生成这些样本者）对给定输入数据集的影响，来解释对抗样本将如何迁移。为实现此目标，我们使用攻击方模型生成对抗样本，并将这些样本迁移至受害方模型。我们分析了对抗样本在受害方模型上的行为，并概述了四个可影响对抗样本可迁移性的因素。尽管这些因素未必详尽，它们为机器学习系统的研究者和从业者提供了有用的见解。
引用
@article{arxiv.2112.01777,
title = {Attack-Centric Approach for Evaluating Transferability of Adversarial Samples in Machine Learning Models},
author = {Tochukwu Idika and Ismail Akturk},
journal= {arXiv preprint arXiv:2112.01777},
year = {2021}
}