基于多头注意力的深度多示例学习
计算机视觉与模式识别
2024-04-09 v1
摘要
本文介绍了 MAD-MIL,一种基于多头注意力的深度多示例学习 (Multiple Instance Learning) 模型,专为数字病理学中的弱监督全切片图像 (WSIs) 分类而设计。受 Transformer 多头注意力机制的启发,MAD-MIL 在简化模型复杂度的同时,取得了与 CLAM 和 DS-MIL 等先进模型相媲美的结果。在 MNIST-BAGS 和包括 TUPAC16、TCGA BRCA、TCGA LUNG 和 TCGA KIDNEY 在内的公开数据集上进行评估,MAD-MIL 始终优于 ABMIL。这证明了在切片表示中增强了信息多样性、可解释性和效率。该模型的有效性,加上更少的可训练参数和更低的计算复杂度,使其成为自动化病理学工作流程的有前途的解决方案。我们的代码可在 https://github.com/tueimage/MAD-MIL 获取。
引用
@article{arxiv.2404.05362,
title = {Multi-head Attention-based Deep Multiple Instance Learning},
author = {Hassan Keshvarikhojasteh and Josien Pluim and Mitko Veta},
journal= {arXiv preprint arXiv:2404.05362},
year = {2024}
}