表示规模存在隐私脆弱性风险
机器学习
2024-07-24 v1 人工智能
密码学与安全
计算机视觉与模式识别
摘要
最近年来，针对机器学习（ML）模型的隐私保护方法取得了显著进展。然而，模型在何种情况下及何种条件下变得隐私脆弱仍不明确，这给 ML 模型在保持性能与隐私之间带来挑战。本文首先探索了在常见训练框架下，模型在成员和非成员数据表示之间的差异。我们识别了表示规模差异如何与隐私脆弱性相关，并阐述了这种相关性如何影响隐私脆弱性。基于观察结果，我们提出了 Saturn Ring Classifier Module（SRCM），一种用于缓解成员隐私泄露的插件式模型级解决方案。通过受限且有效的表示空间，我们的方法在保持一般化能力的同时改善了模型的隐私脆弱性。本工作的代码可在此处找到：https://github.com/JEKimLab/AIES2024_SRCM
引用
@article{arxiv.2407.16164,
title = {Representation Magnitude has a Liability to Privacy Vulnerability},
author = {Xingli Fang and Jung-Eun Kim},
journal= {arXiv preprint arXiv:2407.16164},
year = {2024}
}
备注
Accepted in the AAAI/ACM Conference on Artificial Intelligence, Ethics, and Society, 2024