中文

面向医学应用的注意力机制综述:我们正走向更好的算法吗?

计算机视觉与模式识别 2022-04-27 v1 人工智能 机器学习

摘要

注意力机制在计算机视觉和自然语言处理的深度学习算法中日益普及,使得这些模型对其他研究领域也产生了吸引力。在医疗健康领域,对能够改善临床医生和患者日常工作流程的工具存在强烈需求。自然地,基于注意力的算法在医学应用中的使用平稳推进。然而,由于医疗健康是一个依赖于高风险决策的领域,科学界必须思考这些高性能算法是否满足医学应用的需求。秉持这一宗旨,本文广泛回顾了注意力机制在机器学习(包括 Transformer)中针对若干医学应用的使用情况。本工作区别于先前综述之处在于,通过一个包含三个不同用例的医学图像分类实验案例研究,对文献中提出的关于注意力机制的主张和潜力进行了批判性分析。这些实验侧重于将注意力机制集成到已建立的深度学习架构中的过程、对其预测能力的分析,以及对由事后解释方法生成的显著性图的可视化评估。本文最后对文献中提出的关于注意力机制的主张和潜力进行了批判性分析,并提出了可能从这些框架中受益的医学应用未来研究方向。

关键词

引用

@article{arxiv.2204.12406,
  title  = {A survey on attention mechanisms for medical applications: are we moving towards better algorithms?},
  author = {Tiago Gonçalves and Isabel Rio-Torto and Luís F. Teixeira and Jaime S. Cardoso},
  journal= {arXiv preprint arXiv:2204.12406},
  year   = {2022}
}

备注

Pre-print submitted to Nature Scientific Reports