高效推理攻击：通过混合专家共享阴影模型
密码学与安全
2025-10-16 v1
摘要
机器学习模型常受到暴露训练数据敏感信息的推理攻击。阴影模型技术常用于此类攻击，如成员推断。然而，大量阴影模型的需求导致高计算成本，限制了其实际应用。这种低效性主要源于这些阴影模型的独立训练和使用。为解决此问题，我们提出一种新颖的阴影池训练框架 SHAPOOL，通过在单个进程中构建多个共享模型并联合训练来提高效率。具体而言，我们利用混合专家机制作为阴影池，将各个模型相互连接，使其共享部分子网络，从而提高效率。为确保共享模型与独立模型密切接近并作为有效替代品，我们引入三个新模块：路径选择路由、路径正则化和路径对齐。这些模块保证随机数据分配用于路径学习，促进共享模型之间的多样性，并保持与目标模型的一致性。我们在各种成员推断攻击的背景下评估了 SHAPOOL，表明它在构建阴影模型时显著降低了计算成本，同时保持相当的攻击性能。
引用
@article{arxiv.2510.13451,
title = {Toward Efficient Inference Attacks: Shadow Model Sharing via Mixture-of-Experts},
author = {Li Bai and Qingqing Ye and Xinwei Zhang and Sen Zhang and Zi Liang and Jianliang Xu and Haibo Hu},
journal= {arXiv preprint arXiv:2510.13451},
year = {2025}
}
备注
To appear in NeurIPS 2025