生成保公平解释的先决条件是什么？
机器学习
2021-06-28 v1 人工智能
计算机与社会
摘要
在黑盒模型解释可能有用的情境中，黑盒的公平性也常常是一个相关关注点。然而，黑盒模型的公平性与黑盒解释的行为之间的关联尚不清楚。我们聚焦于应用于表格数据集的解释，指出解释未必保留黑盒算法的公平性属性。换言之，解释算法可能忽略或掩盖关键的相关属性，从而产生不正确或误导性的解释。更广泛地，我们提出了评估和生成解释的未来研究方向，使其从公平性视角来看具有信息性和相关性。
引用
@article{arxiv.2106.13346,
title = {What will it take to generate fairness-preserving explanations?},
author = {Jessica Dai and Sohini Upadhyay and Stephen H. Bach and Himabindu Lakkaraju},
journal= {arXiv preprint arXiv:2106.13346},
year = {2021}
}
备注
Presented at ICML 2021 Workshop on Theoretic Foundation, Criticism, and Application Trend of Explainable AI