可信研究环境下机器学习模型的安全发布：SACRO-ML包
机器学习
2025-08-04 v4 密码学与安全
信息检索
摘要
我们提出SACRO-ML，一套集成的开源Python工具，用于在公开发布前对基于机密数据训练的机器学习(ML)模型进行统计披露控制(SDC)。SACRO-ML结合了(i) SafeModel包，其扩展常用ML模型，通过评估训练机制所带来的披露脆弱性来提供事前SDC；以及(ii) Attacks包，其通过在训练后通过多种模拟攻击严格评估模型的经验披露风险来提供事后SDC。SACRO-ML代码与文档基于MIT许可证发布于 https://github.com/AI-SDC/SACRO-ML
引用
@article{arxiv.2212.01233,
title = {Safe machine learning model release from Trusted Research Environments: The SACRO-ML package},
author = {Jim Smith and Richard J. Preen and Andrew McCarthy and Maha Albashir and Alba Crespi-Boixader and Shahzad Mumtaz and Christian Cole and James Liley and Jost Migenda and Simon Rogers and Yola Jones},
journal= {arXiv preprint arXiv:2212.01233},
year = {2025}
}