差异化隐私漏洞：面向定向属性推断攻击与防御

随着机器学习技术在医疗和金融等隐私敏感领域的广泛应用，最终会将敏感信息纳入数据驱动算法的构建中，故有必要审查这些数据是否面临隐私泄露风险。一种潜在威胁源于对手通过对训练模型进行查询，使用训练数据中非敏感属性的公共数据来推断其私有敏感属性，称为属性推断攻击。该攻击尤其欺骗性，因为它在整体数据集上预测敏感属性的表现可能不佳，但在针对少数几个脆弱群体的记录时却表现出色，这种现象称为差异化脆弱性。本文说明，对手可利用这种差异化脆弱性开展一系列新型攻击，威胁水平远超前人预期。我们首先发展出一种新型推断攻击，称为差异化推断攻击，旨在识别数据集中的高风险群体。随后我们引入两种针对性的属性推断攻击变体，能够识别并利用训练数据的脆弱子集，这是该类别首次出现针对性攻击，显著优于非针对性版本。我们也是首次提出一种新型且高效的差异化缓解技术，能够在保持模型性能的同时防止任何针对性攻击风险。