面向文本理解的持续测试时适应：基于教师-学生模型及域感知的通用教师
计算与语言
2026-01-05 v2
摘要
文本理解常受域迁移的影响。为处理测试域，域适应（DA）在训练时适应固定且已知的测试域；更具挑战性的测试时适应（TTA）在训练时无法访问测试域，并在测试时在线适应测试样本，其中样本来自固定域。我们旨在探索更实用且较少探索的场景：针对文本理解的持续测试时适应（CTTA），即在测试过程中涉及一序列未知测试域。当前 CTTA 方法在减少域间误差累积方面和增强对未知域的泛化能力方面存在挑战：1）噪声过滤减少了累积误差，但丢弃了有用信息；2）累积历史域有助于提升泛化性，但难以实现自适应累积。本文提出了 CTTA-T（continual test-time adaptation for text understanding）框架，可适用于演变中的目标域：它采用教师-学生框架，其中教师对演变域具有域感知性和通用性。为改进教师预测，我们提出一种基于 dropout 驱动一致性的 refinement-过滤机制，以校准预测并移除不可靠指导。针对适应-泛化之间的权衡，我们通过增量主成分分析（PCA）动态累积跨域语义，构建域感知教师，持续跟踪域迁移。实验表明，CTTA-T 在基准上显著优于其他方法。
引用
@article{arxiv.2512.18321,
title = {CTTA-T: Continual Test-Time Adaptation for Text Understanding via Teacher-Student with a Domain-aware and Generalized Teacher},
author = {Tianlun Liu and Zhiliang Tian and Zhen Huang and Xingzhi Zhou and Wanlong Yu and Tianle Liu and Feng Liu and Dongsheng Li},
journal= {arXiv preprint arXiv:2512.18321},
year = {2026}
}