探索自监督表示集成用于COVID-19咳嗽分类

近年来，利用智能手机采集的呼吸音并结合深度学习模型来检测和分类COVID-19变得流行。它消除了对面对面检测流程的需求，尤其适用于相关医疗物资、经验丰富的人员和设备有限的农村地区。然而，现有基于声音的诊断方法以全监督方式训练，需要大规模良好标注的数据。发掘利用更易获取的无标注呼吸数据的新方法至关重要。本文提出一种新颖的启用自监督学习的COVID-19咳嗽分类框架。引入对比预训练阶段，利用无标注数据训练基于Transformer的特征编码器。具体而言，我们设计了一种随机掩码机制以学习鲁棒的呼吸音表示。预训练的特征编码器随后在下游阶段微调以执行咳嗽分类。此外，下游阶段还探索了具有不同随机掩码率的多种集成方式。通过广泛评估，我们证明了所提出的对比预训练、随机掩码机制以及集成架构均有助于提升咳嗽分类性能。