自监督预训练提升多任务肺部超声判读的性能与推理效率
计算机视觉与模式识别
2023-09-07 v1 机器学习
摘要
在本研究中，我们探究了自监督预训练能否产生一种适用于B型肺部超声分析中多个分类任务的神经网络特征提取器。在三个肺部超声任务上微调时，预训练模型使本地与外部测试集上跨任务受试者工作特征曲线下面积（AUC）的平均值分别提升了0.032与0.061。在单一预训练模型输出的特征上训练的紧凑非线性分类器并未在所有任务上提升性能；然而，与串行执行多个独立微调模型相比，其确实将推理时间减少了49%。当使用可用标签的1%进行训练时，预训练模型持续优于全监督模型，在视图分类任务上观察到的最大测试AUC提升为0.396。总体而言，结果表明自监督预训练对于生成肺部超声分类器的初始权重是有用的。
引用
@article{arxiv.2309.02596,
title = {Self-Supervised Pretraining Improves Performance and Inference Efficiency in Multiple Lung Ultrasound Interpretation Tasks},
author = {Blake VanBerlo and Brian Li and Jesse Hoey and Alexander Wong},
journal= {arXiv preprint arXiv:2309.02596},
year = {2023}
}
备注
10 pages, 5 figures, submitted to IEEE Access