从可解释到可理解的医疗自然语言处理深度学习：距离现实有多远？
计算与语言
2024-10-17 v4 人工智能
机器学习
摘要
深度学习（DL）已大幅提升了医疗研究中的自然语言处理（NLP）。然而，基于DL的NLP日益增加的复杂性需要透明的模型可理解性，或至少是可解释性，以实现可靠的决策。本工作对医疗NLP中的可解释和可理解深度学习进行了全面的范围综述。引入了“可解释与可理解人工智能”（XIAI）一词，以区分XAI与IAI。不同模型进一步根据其功能（基于模型、基于输入、基于输出）和范围（局部、全局）进行分类。我们的分析表明，注意力机制是最普遍的新兴IAI技术。IAI的使用正在增长，使其区别于XAI。识别出的主要挑战是大多数XIAI未探索“全局”建模过程、缺乏最佳实践以及缺乏系统评估和基准。一个重要的机遇是利用注意力机制增强用于个性化医疗的多模态XIAI。此外，将DL与因果逻辑相结合具有广阔前景。我们的讨论鼓励将XIAI整合到大型语言模型（LLM）和特定领域的较小模型中。总之，XIAI在医疗领域的应用需要专门的内部专业知识。与领域专家、终端用户和政策制定者的合作可以促成在NLP和医疗任务中均可直接使用的XIAI方法。尽管存在挑战，XIAI技术为医疗领域的可理解NLP算法提供了宝贵的基础。
引用
@article{arxiv.2403.11894,
title = {From Explainable to Interpretable Deep Learning for Natural Language Processing in Healthcare: How Far from Reality?},
author = {Guangming Huang and Yingya Li and Shoaib Jameel and Yunfei Long and Giorgos Papanastasiou},
journal= {arXiv preprint arXiv:2403.11894},
year = {2024}
}
备注
This paper has been accepted by Computational and Structural Biotechnology Journal