利用隐私引导训练降低模型反演风险

机器学习模型常常对训练集中数据所属个体的隐私构成威胁。近期的若干攻击能够从训练好的模型中推断敏感信息，包括模型反演或属性推断攻击。这些攻击能够揭示参与模型训练的个体的某些敏感特征取值。已有研究表明，若干因素会导致模型反演风险增加，其中包括特征影响。我们观察到，并非所有特征必然具有相同的隐私或敏感级别。在许多情况下，用于训练模型的某些特征被视为特别敏感，因此是反演的有利候选。我们提出一种针对基于树的模型中模型反演攻击的应对方案，通过降低这些模型中敏感特征的影响来抵御。这是一条尚未被深入探索的途径，此前仅极初步地尝试将其作为对抗属性推断的对策。我们的工作表明，在许多情况下，可以以不同方式训练模型，从而导致各特征具有不同的影响水平，且不一定损害模型精度。我们能够利用这一事实以如下方式训练模型：降低模型对最敏感特征的依赖，同时提升较不敏感特征的重要性。我们的评估通过若干黑盒与白盒攻击证实，以这种方式训练模型降低了这些特征被推断的风险。