可解释人工智能如何提高医疗诊断系统中的信任与透明度？
人机交互
2026-04-21 v1
摘要
人工智能在医疗保健领域的日益普及引发了对AI驱动医疗诊断系统透明度和可信度的关注。许多现有模型 operate as black boxes，限制了临床医生理解决策依据的能力。可解释人工智能（Explainable Artificial Intelligence, XAI）被提出作为提高AI辅助医疗工具透明度、可解释性和信任的解决方案。本研究探讨了可解释性与AI基于诊断系统信任之间的关系。对30名医学生进行结构化调查，以检验XAI理解程度、对AI决策信心、感知有用性及采纳意愿的影响。结果表明，解释显著提高了对信任、清晰度和AI建议感知安全性的程度。XAI知识与信任（r = 0.48, p = 0.01）和感知有用性（r = 0.60, p = 0.001）呈正相关。研究结果表明，可解释性是医疗决策支持系统成功集成AI的关键因素。虽然AI解释提高了透明度和信任，但参与者仍希望AI作为辅助工具而非取代人类临床判断。
引用
@article{arxiv.2604.16340,
title = {How Can Explainable Artificial Intelligence Improve Trust and Transparency in Medical Diagnosis Systems?},
author = {Altynbek Seitenov and Ainur Nurzhanova and Azhar Bekbussinova and Yerassyl Bolatkan},
journal= {arXiv preprint arXiv:2604.16340},
year = {2026}
}
备注
15 pages, 22 figures, survey study on explainable AI in healthcare decision support systems