深度多示例学习中的核自注意力
机器学习
2021-03-08 v2 计算机视觉与模式识别
机器学习
摘要
并非所有监督学习问题都由固定大小输入张量与标签的对来描述。在某些情况下，尤其在医学图像分析中，一个标签对应于一个实例包（如图像块），并且要对这样的包分类，需要聚合来自所有实例的信息。已有若干尝试创建处理实例包的模型，然而它们假设包内无依赖关係且标签至少与一个实例相连。在这项工作中，我们引入基于自注意力的注意力多示例池化（SA-AbMILP）聚合操作以考虑实例间的依赖关係。我们在 MNIST、组织学、微生物学和视网膜数据库上进行了若干实验，表明 SA-AbMILP 优于其他模型。此外，我们研究了自注意力的核变体及其对结果的影响。
引用
@article{arxiv.2005.12991,
title = {Kernel Self-Attention in Deep Multiple Instance Learning},
author = {Dawid Rymarczyk and Adriana Borowa and Jacek Tabor and Bartosz Zieliński},
journal= {arXiv preprint arXiv:2005.12991},
year = {2021}
}
备注
https://openaccess.thecvf.com/content/WACV2021/papers/Rymarczyk_Kernel_Self-Attention_for_Weakly-Supervised_Image_Classification_Using_Deep_Multiple_Instance_WACV_2021_paper.pdf