利用元数据与对比学习预训练呼吸音表示
声音
2023-08-14 v3 机器学习
音频与语音处理
摘要
基于端到端方式使用标注进行监督学习的方法在分类问题上一直处于最先进水平。然而，它们的泛化能力可能受限，尤其在低数据情形下。在本研究中，我们采用结合可用元数据的监督对比学习来解决多个 pretext 任务，从而学习数据的良好表示，以应对该问题。我们将该方法应用于呼吸音分类。该任务适合此设定，因为性别和年龄等人口统计信息与肺部疾病存在相关性，学习一个隐式编码此信息的系统可更好地检测异常。监督对比学习是一种学习范式，它对共享相同类标签的样本学习相似表示，对不同类标签的样本学习不相似表示。使用该范式学习的特征提取器从数据中提取有用特征，我们表明其在两个不同数据集上分类呼吸异常优于交叉熵。我们还表明，仅使用元数据而不使用类标签学习表示，可获得与仅使用那些标签的交叉熵相似的性能。此外，当使用多监督对比学习（监督对比学习的扩展，解决将同性别和同年龄段患者分组的附加任务）将类标签与元数据结合时，可学习到更具信息量的特征。本工作暗示了在监督对比设定中使用多元数据源的潜力，尤其在类不平衡与数据稀少的设定中。我们的代码发布于 https://github.com/ilyassmoummad/scl_icbhi2017
引用
@article{arxiv.2210.16192,
title = {Pretraining Respiratory Sound Representations using Metadata and Contrastive Learning},
author = {Ilyass Moummad and Nicolas Farrugia},
journal= {arXiv preprint arXiv:2210.16192},
year = {2023}
}