跨任务注意力网络：改进医学影像应用中的多任务学习
计算机视觉与模式识别
2023-09-08 v1 机器学习
摘要
多任务学习（MTL）是深度学习中的一种强大方法，它在训练期间利用来自多个任务的信息以提升模型性能。在医学影像中，MTL 已展现出解决各类任务的巨大潜力。然而，现有医学影像中的 MTL 架构在跨任务共享信息方面存在局限，降低了 MTL 潜在的性能提升。在本研究中，我们引入了一种新颖的基于注意力的 MTL 框架，以更好地利用从像素级到图像级预测各类任务间的交互。具体而言，我们提出了跨任务注意力网络（CTAN），其利用跨任务注意力机制通过任务间交互来融合信息。我们在四个涵盖不同领域与任务的医学影像数据集上验证了 CTAN，包括：使用两种不同靶癌（前列腺、OpenKBP）的规划 CT 图像的放疗计划预测；使用皮肤镜图像的色素性皮肤病变分割与诊断（HAM10000）；以及使用胸部 CT 扫描的 COVID-19 诊断与严重程度预测（STOIC）。我们的研究证明了 CTAN 在提升医学影像任务准确性方面的有效性。与标准单任务学习（STL）相比，CTAN 表现出 4.67% 的性能提升，并优于广泛使用的 MTL 基线：硬参数共享（HPS）平均性能提升 3.22%；多任务注意力网络（MTAN）相对降低 5.38%。这些发现凸显了我们提出的 MTL 框架在解决医学影像任务中的重要性及其跨领域提升准确性的潜力。
引用
@article{arxiv.2309.03837,
title = {Cross-Task Attention Network: Improving Multi-Task Learning for Medical Imaging Applications},
author = {Sangwook Kim and Thomas G. Purdie and Chris McIntosh},
journal= {arXiv preprint arXiv:2309.03837},
year = {2023}
}
备注
13 pages, 2 figures