基于迁移进化策略的跨域跨架构微调模型黑盒攻击
机器学习
2022-08-30 v1 密码学与安全
神经与进化计算
摘要
微调可能易受对抗攻击。现有关于微调模型黑盒攻击（BAFT）的工作受强假设限制。为填补这一空白，我们提出了两种新颖的 BAFT 设定：跨域与跨域跨架构 BAFT，其仅假设（1）待攻击的目标模型为微调模型，以及（2）源域数据已知且可访问。为在两种设定下成功攻击微调模型，我们提出首先针对源模型训练一个对抗生成器，其采用编码器-解码器架构并将干净输入映射为对抗样本。随后我们在该对抗生成器编码器产生的低维潜空间中搜索。搜索在源模型获得的替代梯度的引导下进行。在不同域与不同网络架构上的实验结果表明，所提攻击方法能够高效且有效地攻击微调模型。
引用
@article{arxiv.2208.13182,
title = {Cross-domain Cross-architecture Black-box Attacks on Fine-tuned Models with Transferred Evolutionary Strategies},
author = {Yinghua Zhang and Yangqiu Song and Kun Bai and Qiang Yang},
journal= {arXiv preprint arXiv:2208.13182},
year = {2022}
}
备注
To appear in CIKM 2022