可解释人工智能，但向谁解释？
人机交互
2022-10-25 v2
摘要
人工智能技术的进步带来了基于 AI 的模型性能的卓越提升。然而，这也导致了模型复杂度的显著增加，产生了“黑箱”模型。为应对 AI 黑箱问题，可解释人工智能（xAI）领域应运而生，旨在提供迎合人类理解、信任与透明度的解释。然而，对于 xAI 如何在医疗健康背景下满足对可解释 AI 的需求，我们仍知之有限。我们的研究探索了在开发用于 ICU 中 COVID-19 患者分类的 AI 系统过程中，不同利益相关者的差异化解释需求。我们表明，存在一群具有不同解释需求的利益相关者，而不仅仅是“用户”。此外，研究结果展示了 xAI 的需求如何通过对特定利益相关者群体（即开发团队、领域专家、决策者和受众）相关关切的浮现而显现。我们的发现通过强调不同利益相关者具有不同解释需求，有助于拓展 xAI 的边界。从实践角度看，本研究为如何调整 AI 系统以支持不同利益相关者的需求提供了见解，从而确保在医疗健康背景下的更好实施与运行。
引用
@article{arxiv.2106.05568,
title = {Explainable AI, but explainable to whom?},
author = {Julie Gerlings and Millie Søndergaard Jensen and Arisa Shollo},
journal= {arXiv preprint arXiv:2106.05568},
year = {2022}
}
备注
Book chapter for AI in Healthcare