中文

开放世界测试时训练:基于对比学习的自训练方法

机器学习 2024-09-17 v1 人工智能

摘要

传统测试时训练(TTT)方法虽然解决了域迁移问题,但往往假设类别集合是一致的,限制了其在以无限多样性为特征的真实场景中的适用性。开放世界测试时训练(OWTTT)旨在解决深度学习模型对未知目标域分布的泛化问题,尤其是在强Out-of-Distribution(OOD)数据存在时。现有TTT方法在面对强OOD数据时往往难以保持性能。在OWTTT中,关注点主要集中在区分整体强弱OOD数据上。然而,在TTT的早期阶段,初始特征提取常受到强OOD数据和噪声干扰,导致对比度下降,部分类别被错误地判定为强OOD。为此,我们提出一种新颖的方法——开放世界动态对比学习(OWDCL),通过对比学习来增强正样本对,既能提升早期阶段的对比度,也能显著增强后续阶段的模型鲁棒性。在比较数据集中,我们的OWDCL模型取得了最先进的性能。

关键词

引用

@article{arxiv.2409.09591,
  title  = {Open-World Test-Time Training: Self-Training with Contrast Learning},
  author = {Houcheng Su and Mengzhu Wang and Jiao Li and Bingli Wang and Daixian Liu and Zeheng Wang},
  journal= {arXiv preprint arXiv:2409.09591},
  year   = {2024}
}

备注

10page