你的攻击太 DUMB：形式化对抗可迁移性的攻击者场景
密码学与安全
2023-06-28 v1 机器学习
摘要
规避攻击是对机器学习模型的一种威胁，攻击者试图通过注入恶意样本来影响分类器。规避攻击一个令人警觉的副作用是它们能在不同模型间迁移：此性质称为可迁移性。因此，攻击者可在定制模型（替代模型）上生成对抗样本，随后对受害组织发起攻击。尽管文献广泛讨论了攻击者如何迁移其攻击，但其实验设置有限且远离现实。例如，许多实验假设攻击者与防御者共享相同数据集、平衡水平（即真实标签的分布方式）和模型架构。本工作中，我们提出 DUMB 攻击者模型。该框架可分析当替代模型与受害模型的训练条件不同时规避攻击是否无法迁移。DUMB 考虑以下条件：数据集来源（Dataset soUrces）、模型架构（Model architecture）以及真实标签的平衡（Balance）。我们进而提出一种新颖的测试平台，用 DUMB 评估多种 SOTA 规避攻击；该测试平台包含三项计算机视觉任务（每项各两个不同数据集）、四类平衡水平以及三种模型架构。我们的分析在 14 种不同攻击上生成了 13K 次测试，得出了关于使用替代模型的可迁移攻击的众多新发现。特别地，攻击者与受害者在数据集来源、平衡水平和模型架构上的不匹配会导致攻击性能出现不可忽略的下降。
引用
@article{arxiv.2306.15363,
title = {Your Attack Is Too DUMB: Formalizing Attacker Scenarios for Adversarial Transferability},
author = {Marco Alecci and Mauro Conti and Francesco Marchiori and Luca Martinelli and Luca Pajola},
journal= {arXiv preprint arXiv:2306.15363},
year = {2023}
}
备注
Accepted at RAID 2023