中文

TeST:分布偏移下的测试时自训练

计算机视觉与模式识别 2022-09-26 v1 机器学习

摘要

尽管深度神经网络近期取得了成功,但当它们在测试时遇到分布偏移时,性能仍然较差。许多近期提出的方法试图通过在推理前将模型对齐到新分布来应对这一问题。由于没有可用标签,这需要在观测到的测试数据上以无监督目标来适配模型。在本文中,我们提出测试时自训练(TeST):一种以在某个源数据上训练好的模型以及测试时的新数据分布作为输入,并利用师生框架学习不变且鲁棒表示的技术。我们发现,使用TeST适配的模型显著优于基线测试时适配算法。TeST取得了与现代域适配算法相当的性能,同时在适配时可获取的数据量少5–10倍。我们在目标检测和图像分割两项任务上全面评估了多种基线,发现经TeST适配的模型表现优异。我们发现TeST为测试时域适配算法确立了新的最先进水平。

关键词

引用

@article{arxiv.2209.11459,
  title  = {TeST: Test-time Self-Training under Distribution Shift},
  author = {Samarth Sinha and Peter Gehler and Francesco Locatello and Bernt Schiele},
  journal= {arXiv preprint arXiv:2209.11459},
  year   = {2022}
}