保留静默特征以实现域泛化
机器学习
2024-01-09 v1 计算机视觉与模式识别
摘要
域泛化 (DG) 旨在提高在多个已知训练域上训练的模型在未见测试域上的泛化能力。先前的工作表明，自监督对比预训练提高了模型在下行任务上的鲁棒性。然而，在本文中，我们发现自监督模型在 DG 设置下的泛化性能并不优于在同一数据集上预训练的监督模型。我们认为，这是由于自监督对比学习提取的更丰富的类内判别特征（我们称之为静默特征）在监督微调过程中被抑制所致。这些静默特征可能包含在测试域上更具泛化性的特征。在本工作中，我们对这种特征抑制现象进行了建模和分析，并从理论上证明了在某些条件下保留静默特征可以实现更低的预期测试域风险。鉴于此，我们提出了一种简单而有效的方法，称为 STEP（静默特征保留），通过减轻监督微调过程中对静默特征的抑制，来提高自监督对比学习预训练模型的泛化性能。实验结果表明，STEP 在具有显著分布偏移的标准 DG 基准测试中表现出最先进的性能。
引用
@article{arxiv.2401.03170,
title = {Preserving Silent Features for Domain Generalization},
author = {Chujie Zhao and Tianren Zhang and Feng Chen},
journal= {arXiv preprint arXiv:2401.03170},
year = {2024}
}