面向AI/ML供应链攻击的大规模Exploit仪器化研究——以Hugging Face模型为例
密码学与安全
2024-10-08 v1 机器学习
软件工程
摘要
机器学习（ML）技术的发展为开发者开发和部署自身模型的机会大幅增加。Hugging Face 作为开源平台，允许开发者共享和下载他人的模型，以促进ML开发的协作。在模型共享之前，必须对其进行序列化。某些Python序列化方法被视为不安全的，因为它们易受对象注入攻击。本文调查了这些不安全序列化方法在Hugging Face上的盛行程度，并通过一种利用方法演示了使用不安全序列化方法的模型可被攻击并共享，从而在ML开发者环境中制造不安全情形。我们调查Hugging Face在多大程度上能够标记使用不安全序列化方法的仓库和文件，并开发了一种检测恶意模型的技术。我们的结果表明，Hugging Face上居住着广泛范围的潜在漏洞模型。
引用
@article{arxiv.2410.04490,
title = {A Large-Scale Exploit Instrumentation Study of AI/ML Supply Chain Attacks in Hugging Face Models},
author = {Beatrice Casey and Joanna C. S. Santos and Mehdi Mirakhorli},
journal= {arXiv preprint arXiv:2410.04490},
year = {2024}
}