CAMH：推进机器学习中模型劫持攻击的新方法
密码学与安全
2024-12-23 v2
摘要
在机器学习快速发展的领域，对于模型训练和采用预训练模型的第三方服务的依赖性日益增长。然而，这种依赖性引入了对模型劫持攻击的脆弱性，其中攻击者操纵模型执行意外任务，引发重大的安全和伦理问题，例如将普通图像分类器变成无模型所有者知情的情况下用于检测色情内容中的面孔。本文引入了类别无关模型劫持（Category-Agnostic Model Hijacking, CAMH），一种新型模型劫持攻击方法，旨在解决类别数量不匹配、数据分布发散以及原始任务与劫持任务之间性能平衡的挑战。CAMH 融合了同步训练层、随机噪声优化以及双循环优化方法，以确保对原始任务性能几乎没有影响，同时有效执行劫持任务。我们在多个基准数据集和网络架构上评估了 CAMH，展示了其强大的攻击效力，同时确保对原始任务性能的最小退化。
引用
@article{arxiv.2408.13741,
title = {CAMH: Advancing Model Hijacking Attack in Machine Learning},
author = {Xing He and Jiahao Chen and Yuwen Pu and Qingming Li and Chunyi Zhou and Yingcai Wu and Jinbao Li and Shouling Ji},
journal= {arXiv preprint arXiv:2408.13741},
year = {2024}
}
备注
Accepted by AAAI 2025