沿AI生命周期映射可解释人工智能对公平性的潜力
机器学习
2024-06-28 v4 人工智能
计算机与社会
摘要
人工智能系统在各个领域的广泛使用日益暴露出与算法公平性相关的问题，尤其是在高风险场景中。因此，如何改进AI系统中的公平性——以及有哪些措施可以帮助这一过程——的批判性思考已经刻不容缓。许多研究人员和政策制定者将可解释人工智能（XAI）视为提高AI系统公平性的一种有前景的方式。然而，XAI方法和公平性概念种类繁多，表达了不同的期望，而XAI与公平性之间的精确联系在很大程度上仍然模糊不清。此外，提高算法公平性的不同措施可能适用于AI系统生命周期的不同阶段。然而，目前还没有沿着AI生命周期对公平性期望进行连贯的映射。在本文中，我们提炼出八个公平性期望，将它们映射到AI生命周期中，并讨论XAI如何帮助解决每个期望。我们希望为实际应用提供指导，并激发专门针对这些公平性期望的XAI研究。
引用
@article{arxiv.2404.18736,
title = {Mapping the Potential of Explainable AI for Fairness Along the AI Lifecycle},
author = {Luca Deck and Astrid Schomäcker and Timo Speith and Jakob Schöffer and Lena Kästner and Niklas Kühl},
journal= {arXiv preprint arXiv:2404.18736},
year = {2024}
}