特征与语义双重对比的深度半监督学习
机器学习
2022-11-30 v1
摘要
近年来,智能交通系统(ITS)领域取得了显著成功,这主要归功于大量可用的标注数据。然而,在现实中获取这些标注数据必须付出高昂代价。因此,一种更现实的策略是利用半监督学习(SSL),即使用少量标注数据和大量未标注数据。通常,语义一致性正则化以及解耦特征提取和分类的两阶段学习方法已被证明是有效的。然而,仅局限于语义一致性正则化的表示学习可能无法保证具有不同语义的样本表示的分离性或可判别性;由于两阶段学习方法的固有局限性,提取的特征可能与特定的下游任务不匹配。为了解决上述缺点,本文提出了一种端到端的深度半监督学习语义与特征双重对比方法,通过对比正负增强样本对的语义/特征来提取有效的任务特定判别性特征。此外,我们利用信息论解释了语义和特征双重对比的合理性,并以更简单的方式将互信息松弛到对比损失中。最后,我们在基准数据集上验证了所提方法的有效性。
引用
@article{arxiv.2211.15671,
title = {Deep Semi-supervised Learning with Double-Contrast of Features and Semantics},
author = {Quan Feng and Jiayu Yao and Zhison Pan and Guojun Zhou},
journal= {arXiv preprint arXiv:2211.15671},
year = {2022}
}