Moshi Moshi? 模型选择劫持对抗攻击
机器学习
2025-02-21 v1 密码学与安全
摘要
模型选择是机器学习中的基础任务，聚焦于从候选模型池中选择最适合的模型，通过评估其在特定指标上的性能。该过程确保最佳性能、计算效率以及适应性，以应对不同任务和环境。尽管其在作用，但从对抗机器学习的安全角度仍未受到探讨。这种风险在机器学习即服务（MLaaS）模式下尤为突出，用户将训练阶段和模型选择过程委托给第三方提供商，仅提供数据和训练策略。因此，针对模型选择的攻击可能损害用户和提供商，削弱模型性能并增加运营成本。本文提出了MOSHI（MOdel Selection HIjacking adversarial attack），即首个针对模型选择的对抗攻击。我们的新方法通过操控模型选择数据来偏袒攻击者，即使缺乏系统先验知识。我们基于变分自编码器的框架，证明攻击者可导致ML部署中的效率低下。我们在 diverse computer vision 和语音识别基准任务上测试了该攻击，不同设置下，平均攻击成功率达75.42%。特别地，攻击导致泛化能力平均下降88.30%，延迟增加83.33%，能源消耗增加最高达105.85%。这些结果凸显了模型选择过程中的重大漏洞及其对实际应用的潜在影响。
引用
@article{arxiv.2502.14586,
title = {Moshi Moshi? A Model Selection Hijacking Adversarial Attack},
author = {Riccardo Petrucci and Luca Pajola and Francesco Marchiori and Luca Pasa and Mauro conti},
journal= {arXiv preprint arXiv:2502.14586},
year = {2025}
}