跨学科专家知识以推进公平可解释人工智能
计算机与社会
2024-06-28 v1 人工智能
计算机视觉与模式识别
机器学习
摘要
人工智能领域正在快速影响健康与医疗保健，但偏见和性能不佳仍在面临广泛结构压迫的群体中持续存在。以往工作已明确指出，需更严格地关注数据代表性和模型性能，以推进公平性并减少偏见。然而，还有一个机会通过借鉴社会流行病学和健康不平等的最佳实践，帮助我们为发现的关联性假设提供假设。在本文中，我们关注可解释人工智能 (XAI)，并描述了一个跨学科专家小组审查框架，用于讨论和批判性地评估AI模型解释，来自多个视角，并识别偏见领域及未来研究方向。我们强调跨学科专家小组的重要性，以产生更准确、更公平的解释，这些解释在历史和语境上都已被考虑。跨学科小组讨论有助于减少偏见、识别潜在混杂因素，并在文献中存在空白处识别研究机会。相反，这些见解可建议AI模型改进的机会。
引用
@article{arxiv.2406.18563,
title = {Interdisciplinary Expertise to Advance Equitable Explainable AI},
author = {Chloe R. Bennett and Heather Cole-Lewis and Stephanie Farquhar and Naama Haamel and Boris Babenko and Oran Lang and Mat Fleck and Ilana Traynis and Charles Lau and Ivor Horn and Courtney Lyles},
journal= {arXiv preprint arXiv:2406.18563},
year = {2024}
}