解释模型：一项关于解释如何影响公平性判断的实证研究
人机交互
2019-01-24 v1 计算机与社会
摘要
确保机器学习系统的公平性是一个人在回路中的过程。它依赖开发者、用户和公众来识别公平性问题并作出改进。为促进该过程，我们需要有效、无偏且用户友好的解释，使人们能够自信地依赖。为此，我们进行了一项使用四类程序生成解释的实证研究，以理解它们如何影响人们对机器学习系统公平性的判断。通过涉及超过 160 名 Mechanical Turk 工人的实验，我们表明：1）某些解释被认为固有地更不公平，而另一些能增强人们对算法公平性的信心；2）不同的公平性问题——例如模型整体的公平性缺陷与特定个案的公平性差异——可能通过不同风格的解释更有效地暴露；3）个体差异，包括先前立场与算法公平性的判断标准，影响人们对不同解释风格的反应。我们以关于提供个性化和自适应解释以支持机器学习系统公平性判断的讨论作结。
引用
@article{arxiv.1901.07694,
title = {Explaining Models: An Empirical Study of How Explanations Impact Fairness Judgment},
author = {Jonathan Dodge and Q. Vera Liao and Yunfeng Zhang and Rachel K. E. Bellamy and Casey Dugan},
journal= {arXiv preprint arXiv:1901.07694},
year = {2019}
}