AdaMixup: 用于成员推断攻击防御的动态防御框架
机器学习
2025-01-07 v1 人工智能
摘要
成员推断攻击已成为深度学习模型训练中的重大隐私 concern，攻击者能够基于模型的输出推断数据点是否属于训练集。为解决这一挑战，我们提出一种新型防御机制，AdaMixup。AdaMixup 采用自适应 mixup 技术，通过动态调整训练期间的 mixup 策略来增强模型对成员推断攻击的鲁棒性。该方法不仅提高了模型的隐私保护，还保持了高性能。跨多个数据集的实验结果表明，AdaMixup 在显著降低成员推断攻击风险方面具有显著效果，同时实现了防御效率与模型准确性之间的理想权衡。该研究为数据隐私保护提供了有效解决方案，为未来在 mixup 训练方法方面的发展奠定了基础。
引用
@article{arxiv.2501.02182,
title = {AdaMixup: A Dynamic Defense Framework for Membership Inference Attack Mitigation},
author = {Ying Chen and Jiajing Chen and Yijie Weng and ChiaHua Chang and Dezhi Yu and Guanbiao Lin},
journal= {arXiv preprint arXiv:2501.02182},
year = {2025}
}
备注
6 pages, 2 figures