通过因果修剪实现测试时适应
机器学习
2025-10-14 v1
摘要
测试时适应旨在通过利用无标签目标样本来改进模型在分布迁移下的鲁棒性。性能下降的主要原因是模型依赖于缺乏与预测目标直接因果关系的特征。我们引入测试时因果修剪适应方法（Test-time Adaptation by Causal Trimming, TACT），通过识别和移除用于测试分布的非因果成分来实现适应。TACT应用数据增强，既保留因果特征，又变化非因果特征。通过分析表示的变化，TACT使用主成分分析识别与非因果特征相关的方差最高的方向。随后移除这些方向上的投影，以获得修剪后的表示用于预测。在适应过程中，TACT持续跟踪和细化这些方向，以获得对非因果特征更好的估计。我们对该方法的有效性进行了理论分析，并在真实世界的分布外基准测试中对TACT进行了实证验证。实验结果表明，TACT在多个基准上均显著优于当前最先进的方法。
引用
@article{arxiv.2510.11133,
title = {Test-Time Adaptation by Causal Trimming},
author = {Yingnan Liu and Rui Qiao and Mong Li Lee and Wynne Hsu},
journal= {arXiv preprint arXiv:2510.11133},
year = {2025}
}
备注
Accepted to the Thirty-Ninth Annual Conference on Neural Information Processing Systems (NeurIPS 2025); Code is available at https://github.com/NancyQuris/TACT