基于时间插值与信证校准的源自由时序域适应
机器学习
2024-06-14 v2 人工智能
摘要
源自由域适应（SFDA）旨在不访问源数据的情况下，将预训练于标记源域的模型适配到未标记的目标域，保留源域的隐私。尽管SFDA在计算机视觉中广泛应用，但在时间序列分析中仍属未充分探索的领域。现有SFDA方法为视觉数据设计，难以捕捉时间序列固有的时序动态，限制了适应性能。本文提出了MAsk And imPUte（MAPU），一种 novel and effective的时序SFDA方法。MAPU通过引入 novel 时序插值任务来解决时序一致性的关键挑战。该任务涉及随机掩码时间序列信号，并利用专门的时序插值器在学习的嵌入空间中恢复原始信号，绕过了噪声原始数据的复杂性。值得注意的是，MAPU是首次在时序SFDA语境中显式处理时序一致性的方法。此外，它与现有SFDA方法实现无缝集成，提供了更大的灵活性。我们进一步引入E-MAPU，通过信证不确定性估计来解决softmax预测中固有的过度自信问题。为此，我们利用信证深度学习获得更校准的预训练模型，并调整目标编码器将超出支持范围的目标样本映射到更接近源域支持集的新特征表示。这促进了更好的对齐，最终提升了适应性能。在五个真实世界时序数据集上的广泛实验表明，MAPU和E-MAPU均相较于现有方法实现了显著的性能提升。这些结果凸显了我们所提出方法在解决各种时序域适应问题方面的有效性。
引用
@article{arxiv.2406.02635,
title = {Evidentially Calibrated Source-Free Time-Series Domain Adaptation with Temporal Imputation},
author = {Mohamed Ragab and Peiliang Gong and Emadeldeen Eldele and Wenyu Zhang and Min Wu and Chuan-Sheng Foo and Daoqiang Zhang and Xiaoli Li and Zhenghua Chen},
journal= {arXiv preprint arXiv:2406.02635},
year = {2024}
}