模型提取攻击再探
机器学习
2025-10-01 v2 密码学与安全
摘要
模型提取（ME）攻击通过查询黑盒 API 来“窃取”机密机器学习模型的功能，对机器学习即服务平台构成了重大威胁。自 ME 攻击在奠基性工作中被首次概念化以来，已过去七年。在此期间，ME 攻击与 MLaaS 平台均取得了实质性进展，这引出了一个引人入胜的问题：MLaaS 平台对 ME 攻击的脆弱性是如何演变的？在本研究中，我们进行了深入探讨以回答这一关键问题。具体而言，我们从攻击策略、学习技术、替代模型设计以及基准任务等多个视角，刻画了当前主流 MLaaS 平台对 ME 攻击的脆弱性。我们的许多发现对先前报道的结果提出了挑战，表明 ME 脆弱性呈现出新的模式。此外，通过使用过去四年的历史数据集分析相同 MLaaS 平台的脆弱性，我们回顾性地刻画了 ME 脆弱性随时间的演变，并得出了一系列有趣的发现。最后，我们就攻击鲁棒性方面改进当前 MLaaS 实践提出了建议。我们的研究揭示了现实世界中 ME 脆弱性的现状，并指出了若干有前景的未来研究方向。
引用
@article{arxiv.2312.05386,
title = {Model Extraction Attacks Revisited},
author = {Jiacheng Liang and Ren Pang and Changjiang Li and Ting Wang},
journal= {arXiv preprint arXiv:2312.05386},
year = {2025}
}
备注
Accepted by Proceedings of the 19th ACM Asia Conference on Computer and Communications Security(AsiaCCS 2024)