可解释人工智能(XAI)综述:迈向医学 XAI
机器学习
2020-10-23 v5 人工智能
摘要
近来,人工智能尤其是机器学习在从图像处理到自然语言处理的诸多任务中均展现出卓越性能,深度学习的出现更是如此。随着研究的推进,它们已侵入许多不同领域与学科。其中一些领域要求高度的问责性与透明性,例如医疗行业。因而需要为机器的决策与预测提供解释,以证明其可靠性。这要求更强的可解释性,往往意味着我们需要理解算法背后的机制。遗憾的是,深度学习的黑箱本质仍未被解决,许多机器决策仍鲜被理解。我们综述了不同研究工作提出的可解释性方法并对其进行分类。不同类别展现了可解释性研究中的不同维度,从提供“显然”可解释信息的方法,到对复杂模式的研究。通过将同样的分类应用于医学研究中的可解释性,期望(1)临床医生与从业者能审慎地对待这些方法,(2)对可解释性的洞见能结合更多医学实践的考量而产生,(3)推动基于数据、以数学与技术为根基的医学教育的举措受到鼓励。
引用
@article{arxiv.1907.07374,
title = {A Survey on Explainable Artificial Intelligence (XAI): Towards Medical XAI},
author = {Erico Tjoa and Cuntai Guan},
journal= {arXiv preprint arXiv:1907.07374},
year = {2020}
}