获取一个模型！针对机器学习模型的模型劫持攻击

机器学习（ML）已成为从自动驾驶到认证系统等各种关键应用的基石。然而，随着机器学习模型采用率的提高，多种攻击也随之出现。其中一类攻击是训练时攻击，即攻击者在机器学习模型训练之前或期间执行其攻击。在这项工作中，我们提出了一种针对基于计算机视觉的机器学习模型的新型训练时攻击，即模型劫持攻击（model hijacking attack）。攻击者的目标是在模型所有者不知情的情况下，劫持目标模型以执行与其原始任务不同的任务。模型劫持可能导致问责与安全风 险，因为被劫持的模型所有者可能被诬陷为其模型提供非法或不道德的服务。模型劫持攻击的发起方式与现有的数据投毒攻击相同。然而，模型劫持攻击的一个要求是隐蔽性，即用于劫持目标模型的数据样本应看起来类似于模型的原始训练数据集。为此，我们基于一种新颖的编码器-解码器风格机器学习模型（即 Camouflager）提出了两种不同的模型劫持攻击，即 Chameleon 和 Adverse Chameleon。我们的评估表明，我们的两种模型劫持攻击都实现了高攻击成功率，且模型效用的下降可忽略不计。