关于可解释人工智能公平性收益的批判性综述
人工智能
2024-05-08 v6
摘要
在本批判性综述中，我们分析了关于可解释人工智能（XAI）与公平性之间关系的典型主张，以厘清这两个概念之间多维度的关系。基于系统性文献综述及后续的定性内容分析，我们从175篇关于XAI所谓公平性收益的科学研究中识别出七类原型主张。我们针对这些主张提出了关键注意事项，并为未来围绕XAI在特定公平性诉求上的潜力与局限的讨论提供了切入点。重要的是，我们注意到这些主张常常（i）模糊且过于简化，（ii）缺乏规范性基础，或（iii）与XAI的实际能力严重不符。我们建议将XAI视为并非伦理万灵药，而是应对算法公平性这一多维、社会技术挑战的众多工具之一。此外，当提出有关XAI与公平性的主张时，我们强调需要更具体地说明所使用的XAI方法类型、其所指涉的公平性诉求、其如何实现公平性，以及从XAI中受益的利益相关者是谁。
引用
@article{arxiv.2310.13007,
title = {A Critical Survey on Fairness Benefits of Explainable AI},
author = {Luca Deck and Jakob Schoeffer and Maria De-Arteaga and Niklas Kühl},
journal= {arXiv preprint arXiv:2310.13007},
year = {2024}
}
备注
ACM Conference on Fairness, Accountability, and Transparency (ACM FAccT '24)