用于组织病理学全切片图像分类的核注意力Transformer (KAT)
计算机视觉与模式识别
2022-06-28 v1
摘要
Transformer已被广泛用于组织病理学全切片图像(WSI)分类,以进行肿瘤分级、预后分析等。然而,常见Transformer中逐token的自注意力与位置嵌入策略限制了其在十亿像素级组织病理学图像应用中的有效性与效率。本文提出一种用于组织病理学WSI分类的核注意力Transformer (KAT)。token之间的信息传输通过token与WSI上一组位置锚点相关的一组核之间的交叉注意力实现。与常见Transformer结构相比,所提出的KAT能更好地描述WSI局部区域的层次上下文信息,同时保持较低的计算复杂度。所提方法在一个含2040张WSI的胃部数据集和一个含2560张WSI的子宫内膜数据集上进行了评估,并与6种最先进(state-of-the-art, SOTA)方法进行比较。实验结果证明所提出的KAT在组织病理学WSI分类任务中有效且高效,并优于SOTA方法。代码见https://github.com/zhengyushan/kat。
引用
@article{arxiv.2206.13156,
title = {Kernel Attention Transformer (KAT) for Histopathology Whole Slide Image Classification},
author = {Yushan Zheng and Jun Li and Jun Shi and Fengying Xie and Zhiguo Jiang},
journal= {arXiv preprint arXiv:2206.13156},
year = {2022}
}
备注
accepted for MICCAI 2022