中文

面对异构数据流的去混合测试时适应

机器学习 2025-12-01 v4 人工智能

摘要

在实际场景中部署深度模型仍然具有挑战性,因为训练环境与部署环境之间的分布迁移会导致显著的性能下降。测试时适应(Test-Time Adaptation, TTA)最近作为一种有前景的解决方案,使模型能够即时适应。然而,在存在混合分布迁移的情况下,其有效性会恶化,这种情况在实际应用中很常见,即多个目标域共存。本文研究面对混合分布迁移的 TTA,超越传统的整个批次适应范式。通过从谱方法重新审视分布迁移,我们发现潜在域之间的异构性在傅里叶空间中往往较为显著。特别是,高频分量编码了域特定的变异,这有助于更清晰地分离来自不同分布的样本。基于这一观察,我们提出使用高频域线索对异构数据流进行去混合,使多样化的迁移模式更加可处理。为此,我们提出了基于频率的去中心化适应框架(Frequency-based Decentralized Adaptation, FreDA),这是一种新型框架,能够将全局异构的数据流在傅里叶空间分解为局部均匀的簇。它利用去中心化学习和数据增强策略,在混合域迁移下实现稳健适应。跨各种环境(损坏的、自然的和医疗的)的大量实验表明,我们的方法在最新技术之上具有优势。

关键词

引用

@article{arxiv.2411.15173,
  title  = {Un-mixing Test-time Adaptation under Heterogeneous Data Streams},
  author = {Zixian Su and Jingwei Guo and Xi Yang and Qiufeng Wang and Kaizhu Huang},
  journal= {arXiv preprint arXiv:2411.15173},
  year   = {2025}
}