无需打开黑箱的反事实解释：自动化决策与GDPR
人工智能
2018-03-22 v3
摘要
关于欧盟《通用数据保护条例》（GDPR）中解释权及其存在、优点与缺点的讨论颇多。实施打开算法决策黑箱的解释权面临重大法律与技术障碍。解释复杂算法决策系统的功能及其在具体案例中的理由是一个技术上的难题。某些解释可能向数据主体提供甚少有意义的信息，引发关于其价值的问题。对自动化决策的解释无需依赖于公众理解算法系统如何运作。尽管此类可解释性极为重要且应被追求，原则上可在不打开黑箱的情况下提供解释。将解释视为帮助数据主体行动而非仅理解的手段，人们可根据解释旨在支持的具体目标或行动来衡量其范围与内容。从受自动化决策影响个体的视角，我们提出解释的三个目标：（1）告知并帮助个体理解为何得出特定决策；（2）若结果不合意，提供质疑该决策的依据；（3）基于当前决策模型，理解未来若要获得合意结果需要改变什么。我们评估了这些目标在GDPR中的依据。我们建议数据控制者提供一类特定解释，即无条件反事实解释，以支持这三个目标。这些反事实解释描述了在不需解释系统内部逻辑的情况下，为获得合意结果或抵达最接近的可能世界而对世界所做的最小改变。
引用
@article{arxiv.1711.00399,
title = {Counterfactual Explanations without Opening the Black Box: Automated Decisions and the GDPR},
author = {Sandra Wachter and Brent Mittelstadt and Chris Russell},
journal= {arXiv preprint arXiv:1711.00399},
year = {2018}
}