PAID：用于持续测试时适应的成对角不变分解
计算机视觉与模式识别
2025-07-04 v2
摘要
持续测试时适应旨在让预训练模型在推理过程中在线适应不断变化的环境。现有大多数方法侧重于利用目标数据，却忽略了另一个关键的信息源——预训练权重，其中编码了未被充分利用的领域不变先验。本文以预训练权重的几何属性为切入点，系统分析了三个关键组成部分：幅值、绝对角度和成对角结构。我们发现，成对角结构在不同损坏域中保持稳定，并编码了领域不变的语义信息，这表明在适应过程中应予以保留。基于这一洞察，我们提出了 PAID（成对角不变分解），一种先验驱动的 CTTA 方法，将权重分解为幅值和方向，并通过 Householder 反射引入可学习的正交矩阵，在保持成对角结构的同时全局旋转方向。在适应过程中，仅更新幅值和正交矩阵。PAID 在四个广泛使用的 CTTA 基准上取得了优于近期 SOTA 方法的持续改进，证明保持成对角结构为 CTTA 提供了简单而有效的原则。
引用
@article{arxiv.2506.02453,
title = {PAID: Pairwise Angular-Invariant Decomposition for Continual Test-Time Adaptation},
author = {Kunyu Wang and Xueyang Fu and Yuanfei Bao and Chengjie Ge and Chengzhi Cao and Wei Zhai and Zheng-Jun Zha},
journal= {arXiv preprint arXiv:2506.02453},
year = {2025}
}