基于注意力熵最大化的多实例学习全切片图像分类方法
计算机视觉与模式识别
2025-07-01 v3
摘要
多实例学习（MIL）有效地分析全切片图像，但面临注意力过度集中导致的过拟合问题。虽然现有解决方案依赖复杂的架构修改或额外的处理步骤，但我们引入注意力熵最大化（AEM），这是一种简单而有效的正则化技术。我们的研究揭示了注意力熵与模型性能之间的正相关性。基于这一洞察，我们将 AEM 正则化集成到 MIL 框架中以惩罚过度的注意力集中。为解决 AEM 权重参数的敏感性，我们实现了余弦权重退火，减少参数依赖性。广泛的评估表明，AEM 在各种特征提取器、MIL 框架、注意力机制和数据增强技术之间表现优异。我们提供匿名代码：https://github.com/dazhangyu123/AEM。
引用
@article{arxiv.2406.15303,
title = {AEM: Attention Entropy Maximization for Multiple Instance Learning based Whole Slide Image Classification},
author = {Yunlong Zhang and Honglin Li and Yunxuan Sun and Zhongyi Shui and Jingxiong Li and Chenglu Zhu and Lin Yang},
journal= {arXiv preprint arXiv:2406.15303},
year = {2025}
}
备注
Accepted by MICCAI2025