机器学习模型存在供应链问题
机器学习
2025-05-30 v1 密码学与安全
摘要
强大的机器学习(ML)模型如今在网上易于获取，这为缺乏开发它们所需的深厚技术专业知识或大量计算资源的用户创造了令人兴奋的可能性。另一方面，这种开放的生态系统也伴随着许多风险。在本文中，我们指出当前开放 ML 模型的生态系统存在重大的供应链风险，其中一些已在实际攻击中被利用。这些风险包括攻击者用恶意内容(例如恶意软件)替换模型，或者模型使用存在漏洞的框架版本、受限数据或被投毒的数据进行训练。随后，我们探讨了 Sigstore——一种旨在为开源软件供应链带来透明度的解决方案——如何被用于为开放 ML 模型带来透明度，即让模型发布者能够对其模型进行签名，并证明其使用数据集的相关属性。
引用
@article{arxiv.2505.22778,
title = {Machine Learning Models Have a Supply Chain Problem},
author = {Sarah Meiklejohn and Hayden Blauzvern and Mihai Maruseac and Spencer Schrock and Laurent Simon and Ilia Shumailov},
journal= {arXiv preprint arXiv:2505.22778},
year = {2025}
}
备注
12 pages, four figures and one table