Bi-CoG:基于双一致性引导的自训练方法用于视觉语言模型
机器学习
2026-05-26 v3
摘要
利用半监督学习 (SSL) 或通过微调预训练模型是解决标签稀缺场景的两种主流方法。最近,越来越多的关注度集中在将预训练视觉语言模型 (VLM) 的微调与 SSL 结合,形成半监督微调的新兴范式。然而,现有方法往往因依赖预测一致性或预定义置信阈值而受模型偏差和超参数敏感性的限制。为此,我们提出一种简单而有效的即插即用方法,称为 nsistency-uided Self-Training (Bi-CoG),通过同时利用模型间一致性和模型内一致性,以及一种误差感知的动态伪标签分配策略,来分配高质量且低偏差的伪标签。理论分析和在 14 个数据集上的大量实验均表明 Bi-CoG 的有效性,始终显著改进了现有方法的性能。
引用
@article{arxiv.2510.20477,
title = {Bi-CoG: Bi-Consistency-Guided Self-Training for Vision-Language Models},
author = {Rui Zhu and Song-Lin Lv and Zi-Kang Wang and Lan-Zhe Guo},
journal= {arXiv preprint arXiv:2510.20477},
year = {2026}
}
备注
Accepted by IJCAI 2026