TARDIS：通过表示引导缓解时间错位
机器学习
2025-03-26 v2
摘要
语言模型经常面临时间错位问题，即由数据时间分布变化导致的性能退化。持续更新模型以避免退化代价高昂。能否在不更新模型权重的情况下适配模型？我们提出了TARDIS，一种解决这一挑战的无监督表示编辑方法。TARDIS从无标签数据中提取引导向量，并调整模型的表示，以更好地与目标时间段的分布对齐。我们的实验表明，TARDIS无需微调即可提升下游任务性能，即使在无法获取确切目标时间段数据时也能缓解时间错位，并且在推理时目标数据点的时间信息未知的情况下依然保持高效。
引用
@article{arxiv.2503.18693,
title = {TARDIS: Mitigating Temporal Misalignment via Representation Steering},
author = {Changho Shin and Xinya Yan and Suenggwan Jo and Sungjun Cho and Shourjo Aditya Chaudhuri and Frederic Sala},
journal= {arXiv preprint arXiv:2503.18693},
year = {2025}
}