Long-MIL：扩展长上下文多示例学习用于组织病理学全切片图像分析
计算机视觉与模式识别
2023-11-23 v1
摘要
组织病理学图像分析是癌症临床诊断的金标准。在医生日常工作和计算机辅助诊断中，组织病理学组织的全切片图像（WSI）被用于分析。由于分辨率尺度极大，以往方法通常将 WSI 划分为大量图像块，然后在开发计算机辅助诊断工具时通过多示例学习（MIL）聚合 WSI 内的所有图像块以做出切片级预测。然而，大多数以往的 WSI-MIL 模型使用无成对交互和任何位置信息的全局注意力，或带有绝对位置嵌入的自注意力，不能很好地处理形状多变的大尺寸 WSI，例如模型部署后的测试 WSI 可能大于训练 WSI，因为由于组织病理学 WSI 收集困难，模型开发集总是有限的。为处理该问题，本文中我们提出通过向注意力中引入线性偏置来修正形状多变的长上下文 WSI 的位置嵌入，并将其从一维长序列适配到二维长上下文 WSI，从而帮助模型将位置嵌入外推至未见过或欠拟合的位置。我们进一步利用 Flash-Attention 模块来解决 Transformer 的计算复杂度问题，与以往注意力近似工作相比也保持了完整的自注意力性能。我们的方法，即长上下文 MIL（Long-MIL），在包括 WSI 分类和生存预测任务的 4 个数据集上的大量实验中进行了评估，以验证其在形状多变 WSI 上的优越性。源代码将很快开放获取。
引用
@article{arxiv.2311.12885,
title = {Long-MIL: Scaling Long Contextual Multiple Instance Learning for Histopathology Whole Slide Image Analysis},
author = {Honglin Li and Yunlong Zhang and Chenglu Zhu and Jiatong Cai and Sunyi Zheng and Lin Yang},
journal= {arXiv preprint arXiv:2311.12885},
year = {2023}
}