PriSampler：缓解扩散模型的属性推断

扩散模型在数据合成方面已取得显著成功。然而，当这些模型应用于敏感数据集（如银行和人脸数据）时，可能引发严重的隐私问题。本工作系统性地首次提出针对扩散模型属性推断攻击的隐私研究，其中攻击者旨在从扩散模型中抽取其训练集的敏感全局属性。具体而言，我们关注最实际的攻击场景：攻击者仅能访问合成数据。在此现实场景下，我们对在包括表格和图像数据集的多种数据类型上训练的各种扩散模型进行了属性推断攻击的全面评估。广泛的评估揭示扩散模型及其采样器普遍易受属性推断攻击。为此，我们提出一种模型无关的插件方法 PriSampler，以缓解扩散模型属性推断的风险。PriSampler 可直接应用于训练好的扩散模型，并支持随机与确定性采样。大量实验表明了我们的防御的有效性，且可使攻击者推断出的属性比例接近模型拥有者所期望的预定义值。值得注意的是，PriSampler 在模型效用和防御性能上也显著优于采用差分隐私训练的扩散模型。本工作将提升对防御属性推断攻击的认识，并鼓励隐私保护合成数据发布。