隐私保护算法补救

当个体受到机器学习模型不利结果的影响时，提供一条补救路径以帮助其获得正向结果是可取的。近期研究表明，反事实解释——可作为单步补救的一种手段——存在隐私漏洞，使个体隐私面临风险。提供顺序多步补救路径会放大这一风险。此外，简单地向现有方法得到的补救路径添加噪声会影响路径对终端用户的真实性与可操作性。在本工作中，我们解决了基于实例的反事实解释生成真实补救路径时的隐私问题，并提出了PrivRecourse：一个能够提供真实补救路径的端到端隐私保护流水线。PrivRecourse使用差分隐私（DP）聚类来表示私有数据集中互不重叠的子集。随后将这些DP聚类中心作为节点构建图，用以生成补救路径，从而我们可以得到真实——可行且可操作——的补救路径。我们在金融数据集上对所提方法进行了实证评估，并与简单向数据实例添加噪声以及使用DP合成数据来生成图的方法进行比较。我们观察到PrivRecourse能够提供兼具隐私性与真实性的路径。