临床数据可解释人工智能方法的实证比较：以创伤性脑损伤为例
人工智能
2022-08-16 v1 机器学习
摘要
深度学习算法长期面临的挑战在于拆解并理解其决策方式。可解释人工智能（XAI）提供了以人类用户可解释、可理解的方式说明算法内部功能及其决策原因的方法。迄今已开发众多 XAI 方法，似乎有必要对这些策略进行比较分析以辨明其与临床预测模型的相关性。为此，我们首先分别利用结构化表格数据和时间序列生理数据，构建了创伤性脑损伤（TBI）短期与长期结局的两个预测模型。采用六种不同解释技术在局部与全局层面描述两个预测模型。随后我们对各策略的优缺点进行批判性分析，强调对有意应用这些方法的研究者的启示。所实现的方法在可理解性、保真度与稳定性等多项 XAI 特征上相互比较。我们的结果表明，SHAP 稳定性最高、保真度最优，但可理解性不足；而 Anchors 是最易理解的方法，但仅适用于表格数据而非时间序列数据。
引用
@article{arxiv.2208.06717,
title = {An Empirical Comparison of Explainable Artificial Intelligence Methods for Clinical Data: A Case Study on Traumatic Brain Injury},
author = {Amin Nayebi and Sindhu Tipirneni and Brandon Foreman and Chandan K. Reddy and Vignesh Subbian},
journal= {arXiv preprint arXiv:2208.06717},
year = {2022}
}
备注
Accepted at American Medical Informatics Association (AMIA) Annual Symposium 2022, 10 pages, 6 figures, 2 tables