当更好的特征意味着更大的风险：对比学习中性能-隐私权衡的探讨

随着深度学习技术的快速发展，预训练的编码器模型已显示出卓越的特征提取能力，在深度学习的研究和应用中发挥着关键作用。然而，其广泛使用引发了关于训练数据隐私泄露风险的重大关注。本文系统性地调查了针对编码器模型的成员推断攻击（MIAs）所构成的隐私威胁，重点关注对比学习框架。通过实验分析，我们揭示了模型架构复杂度对成员隐私泄露的显著影响：随着更先进的编码器框架提升特征提取性能，他们同时加剧了隐私泄露风险。此外，本文提出了一种基于特征向量p范数的新型成员推断攻击方法，称为嵌入Lp范数概率攻击（LpLA）。该方法通过利用特征向量p范数的统计分布特征来推断成员身份。跨多个数据集和模型架构的实验结果表明，LpLA在攻击性能和鲁棒性方面优于现有方法，尤其在攻击知识有限和查询数量较少的情况下效果更佳。本研究不仅揭示了对比学习框架中潜在隐私泄露风险，还为encoder模型的隐私保护研究提供了实用依据。我们希望本工作能引起对自监督学习模型隐私风险的更广泛关注，并为在模型实用性与训练数据隐私之间取得平衡提供指导。我们的代码已公开于：https://github.com/SeroneySun/LpLA_code。