关于可操作解释与被遗忘权之间的权衡

随着机器学习（ML）模型日益部署于高风险应用中，政策制定者已提议更严格的数据保护法规（如 GDPR、CCPA）。其中一项关键原则为“被遗忘权”，赋予用户删除其数据的权利。另一项关键原则为获得可操作解释（亦称算法补救）的权利，使用户能够逆转不利决策。迄今为止，尚不清楚这两项原则能否同时落地。因此，我们引入并研究了在数据删除请求背景下的补救失效问题。更具体地，我们从理论与实证上分析了流行的最先进算法的行为，并表明若少量数据删除请求（如 1 或 2 个）引发预测模型更新，这些算法生成的补救很可能失效。针对可微模型的情形，我们提出一个框架以识别关键训练点的极小子集，移除该子集可最大化失效补救的比例。利用我们的框架，我们实证表明从训练集中移除少至 2 个数据实例即可使流行最先进算法输出的所有补救中高达 95% 失效。由此，我们的工作就“可操作解释权”在“被遗忘权”背景下的兼容性提出了根本性问题，同时也为补救鲁棒性的决定因素提供了建设性见解。