面向持续测试时适应的正交投影子空间聚合在线先验知识方法
计算机视觉与模式识别
2025-06-25 v1
摘要
持续测试时适应（CTTA）是指源预训练模型需要在分布不断变化的新情境中进行持续适应的任务。现有CTTA方法主要致力于缓解灾难性遗忘和误差累积的挑战。尽管存在基于遗忘适应的参数高效微调方法，但在语义分割等复杂任务中，仍难以在竞争性能和高效模型适应之间取得平衡。为解决上述问题，本文提出一种新型管道——正交投影子空间聚合在线先验知识（OoPk）。具体而言，我们首先投影一个调优子空间，从而在保持预训练源模型知识完整性的同时允许模型适应新领域，以缓解灾难性遗忘。随后，我们构建一种激进且高效的图像遮蔽策略，以模拟潜在的目标动态性，增强学生模型的领域适应性。这进一步逐步改善教师模型的知识，确保高质量的伪标签生成，减少误差累积。我们通过大量实验展示了该方法超越了先前的CTTA方法，在各种持续TTA基准测试中实现了具竞争力的性能，尤其是在语义分割任务方面。
引用
@article{arxiv.2506.19022,
title = {Orthogonal Projection Subspace to Aggregate Online Prior-knowledge for Continual Test-time Adaptation},
author = {Jinlong Li and Dong Zhao and Qi Zang and Zequn Jie and Lin Ma and Nicu Sebe},
journal= {arXiv preprint arXiv:2506.19022},
year = {2025}
}