Dropout 对差分隐私模型中成员推断的影响

差分隐私模型旨在保护模型所训练数据的隐私，是模型安全与隐私的重要组成部分。与此同时，数据科学家和机器学习工程师寻求使用不确定性量化方法来确保模型尽可能有用且可操作。我们通过针对有和没有差分隐私的模型进行成员推断攻击，探讨了通过 dropout 进行不确定性量化与隐私之间的张力。我们发现，在所有情况下，包括差分隐私模型中，具有大 dropout 的模型会略微增加模型遭受成员推断攻击的风险。