Vera Verto：多模态劫持攻击
密码学与安全
2024-08-02 v1 机器学习
摘要
机器学习(ML)模型训练成本的不断增加导致训练流程中引入了新的参与者，例如贡献训练数据的用户和提供计算资源的公司。这些新参与方介入 ML 训练过程为攻击者引入了新的攻击面。该领域近期的一种攻击是模型劫持攻击，攻击者劫持受害模型以实现其自身的——可能是恶意的——劫持任务。然而，模型劫持攻击的范围目前仅限于同模态任务。在本文中，我们将模型劫持攻击转化为更通用的多模态设定，其中劫持任务和原始任务在不同模态的数据上执行。具体而言，我们聚焦于攻击者将自然语言处理(NLP)劫持任务实现到图像分类模型中的设定。为了实施攻击，我们提出了一种新型编码器-解码器框架，即 Blender，其依赖于先进的图像和语言模型。实验结果表明，我们的多模态劫持攻击在不同设定下均取得了强劲的性能。例如，我们的攻击在使用 Sogou 新闻数据集劫持 STL10、CIFAR-10 和 MNIST 分类器时分别取得了 94%、94% 和 95% 的攻击成功率。
引用
@article{arxiv.2408.00129,
title = {Vera Verto: Multimodal Hijacking Attack},
author = {Minxing Zhang and Ahmed Salem and Michael Backes and Yang Zhang},
journal= {arXiv preprint arXiv:2408.00129},
year = {2024}
}