可解释人工智能：健康类 AI 良好解释的定义与属性
计算机与社会
2024-09-25 v1 人工智能
摘要
基于日益复杂和准确的预测模型，人工智能 (AI) 解决方案的提案正在跨越许多学科领域。随着模型复杂度的增加，透明度和用户理解往往会下降。这表明，仅靠准确的预测不足以使基于 AI 的解决方案真正实用。在医疗保健系统的开发中，这引入了与问责和安全性相关的新问题。了解 AI 系统为何作出某项建议可能需要复杂地解释其内部工作原理和推理过程。尽管近年来可解释人工智能 (XAI) 的研究显著增加，并且在医学领域对 XAI 有着高需求，但定义良好解释的标准仍显得不成文，且提供充分解释仍具有挑战性。要充分实现 AI 的潜力，必须回应两个关于安全关键型 AI 应用（如健康 AI）的解释问题的根本性问题：（1）健康 AI 中的解释是什么？（2）健康 AI 中良好解释的属性是什么？本研究通过审查已发表文献并进行两轮德尔菲研究收集专家意见。研究输出包括（1）健康 AI 中解释的定义，以及（2） characterize 良好解释的全面属性列表。
引用
@article{arxiv.2409.15338,
title = {Explainable AI: Definition and attributes of a good explanation for health AI},
author = {Evangelia Kyrimi and Scott McLachlan and Jared M Wohlgemut and Zane B Perkins and David A. Lagnado and William Marsh and the ExAIDSS Expert Group},
journal= {arXiv preprint arXiv:2409.15338},
year = {2024}
}
备注
21 pages