HiCo：用于超声视频模型预训练的分层对比学习
计算机视觉与模式识别
2022-10-14 v1
摘要
自监督超声（US）视频模型预训练可利用少量标注数据在超声诊断上取得极具前景的结果之一。然而，它未充分利用多层次知识来学习深度神经网络（DNNs），因而难以学到可迁移的特征表示。本工作提出一种分层对比学习（HiCo）方法，以提升超声视频模型预训练的可迁移性。HiCo 引入同层语义对齐与跨层语义对齐，促进不同语义层级间的交互，能有效加快收敛速度，使所学模型具备更好的泛化与适应能力。此外，通过对硬标签进行平滑实现了一种软化目标函数，可缓解不同类别间图像局部相似性带来的负面影响。在五个数据集上采用 HiCo 的实验表明其优于最先进方法。本工作的源代码公开于 https://github.com/983632847/HiCo。
引用
@article{arxiv.2210.04477,
title = {HiCo: Hierarchical Contrastive Learning for Ultrasound Video Model Pretraining},
author = {Chunhui Zhang and Yixiong Chen and Li Liu and Qiong Liu and Xi Zhou},
journal= {arXiv preprint arXiv:2210.04477},
year = {2022}
}
备注
Paper accepted in ACCV 2022