CASS：用于医学图像分析的跨架构自监督方法
计算机视觉与模式识别
2022-11-22 v6 人工智能
机器学习
图像与视频处理
摘要
深度学习和计算机视觉的最新进展降低了自动化医学图像分析的诸多壁垒，使算法能够处理无标签图像并提升性能。然而，现有技术具有极高的计算需求，且当批大小或训练轮数减少时性能大幅下降。本文提出跨架构-自监督（CASS），一种同时利用Transformer和CNN的新型自监督学习方法。与现有最先进的自监督学习方法相比，我们通过实验表明，在四个不同的数据集上，CASS训练的CNN和Transformer在1%标注数据下平均提升3.8%，在10%标注数据下提升5.9%，在100%标注数据下提升10.13%，同时耗时减少69%。我们还表明CASS对批大小和训练轮数的变化具有更强的鲁棒性。值得注意的是，其中一个测试数据集包含自身免疫性疾病的组织病理学切片，该疾病数据极少且在医学影像中代表性不足。代码已开源并发布于GitHub。
引用
@article{arxiv.2206.04170,
title = {CASS: Cross Architectural Self-Supervision for Medical Image Analysis},
author = {Pranav Singh and Elena Sizikova and Jacopo Cirrone},
journal= {arXiv preprint arXiv:2206.04170},
year = {2022}
}
备注
(27 pages, 14 figures), Accepted at NeurIPS 2022 Workshop: Self-Supervised Learning - Theory and Practice