基于掩码自编码器的超声信号：面向下游任务的鲁棒表征学习
机器学习
2025-08-29 v1 计算机视觉与模式识别
摘要
我们研究了将掩码自编码器（MAEs）应用于一维（1D）超声信号的自监督表征学习潜力。尽管MAEs在计算机视觉和其他领域已显示出显著成功，但在1D信号分析，尤其是针对原始超声数据，仍属基本未探索的领域。超声信号在工业应用中至关重要，如无损检测（NDT）和结构健康监测（SHM），其中标签数据往往稀缺且信号处理高度任务相关。我们提出的方法利用MAE在无标签人工合成超声信号上进行预训练，使模型能够学习鲁棒的表征，从而提升下游任务（如飞行时间（ToF）分类）的性能。本研究系统性地考察了模型规模、补丁大小和掩码比例对预训练效率和下游准确性的影响。结果表明，预训练模型显著优于从零训练的模型，以及为下游任务优化的强大卷积神经网络（CNN）基线。此外，仅在有限真实数据集上训练的预训练模型，在可迁移性方面优于仅在真实数据集上训练的模型。这一研究彰显了MAEs在通过可扩展自监督学习推动超声信号分析方面的潜力。
引用
@article{arxiv.2508.20622,
title = {Masked Autoencoders for Ultrasound Signals: Robust Representation Learning for Downstream Applications},
author = {Immanuel Roßteutscher and Klaus S. Drese and Thorsten Uphues},
journal= {arXiv preprint arXiv:2508.20622},
year = {2025}
}
备注
Submitted to IEEE Access. This is a preprint version. 14 pages, 6 figures