MT3:用于自监督测试时适应的元测试时训练
计算机视觉与模式识别
2022-01-21 v2 人工智能
摘要
深度学习中的一个未解决问题是神经网络在测试时应对域偏移的能力,这通常因训练后固定网络参数而导致。然而,我们提出的方法元测试时训练(MT3)打破了这一范式,并实现了测试时的适应。我们结合元学习、自监督与测试时训练,以学会适应未见的测试分布。通过最小化自监督损失,我们为不同任务学习特定的任务模型参数。一个元模型被优化,使其向不同任务特定模型的适应能提升在这些任务上的性能。在测试时,单张无标签图像即足以适应元模型参数。这通过仅最小化自监督损失分量来实现,从而对该图像给出更好的预测。我们的方法在 CIFAR-10-Corrupted 图像分类基准上显著改进了当前最优(SOTA)结果。我们的实现已在 GitHub 上公开。
引用
@article{arxiv.2103.16201,
title = {MT3: Meta Test-Time Training for Self-Supervised Test-Time Adaption},
author = {Alexander Bartler and Andre Bühler and Felix Wiewel and Mario Döbler and Bin Yang},
journal= {arXiv preprint arXiv:2103.16201},
year = {2022}
}