中文

关于开放世界测试时训练的鲁棒性:基于动态原型扩展的自训练

计算机视觉与模式识别 2023-08-22 v1 机器学习

摘要

以低延迟将深度学习模型泛化至未知目标域分布,推动了测试时训练/自适应(TTT/TTA)的研究。现有方法常聚焦于在精心筛选的目标域数据下提升测试时训练性能。如本工作所指出的,当目标域被强分布外(OOD)数据污染(即开放世界测试时训练,OWTTT)时,许多最先进方法无法维持性能。该失败主要源于无法区分强 OOD 样本与常规弱 OOD 样本。为提升 OWTTT 的鲁棒性,我们首先开发了自适应强 OOD 剪枝,提升了自训练 TTT 方法的效力。我们进一步提出一种动态扩展原型以表示强 OOD 样本的方法,从而改进弱/强 OOD 数据分离。最后,我们以分布对齐正则化自训练,该组合在 5 个 OWTTT 基准上取得最先进性能。代码可在 https://github.com/Yushu-Li/OWTTT 获取。

关键词

引用

@article{arxiv.2308.09942,
  title  = {On the Robustness of Open-World Test-Time Training: Self-Training with Dynamic Prototype Expansion},
  author = {Yushu Li and Xun Xu and Yongyi Su and Kui Jia},
  journal= {arXiv preprint arXiv:2308.09942},
  year   = {2023}
}

备注

Accepted at ICCV 2023 (Oral)