使用稳定表示和经验回放的连续无监督域适应
机器学习
2024-02-02 v1 计算机视觉与模式识别
摘要
我们提出了一种算法，用于解决持续学习（CL）场景中的无监督域适应（UDA）问题。主要目标是在新域持续到来时，通过更新基础模型（后续任务中仅可访问无标签数据）来保持模型在域偏移下的泛化能力。虽然存在许多现有的UDA算法，但它们通常需要同时访问源域和目标域数据集。相反，现有的CL方法可以处理所有任务都有标签数据的情况。我们的解决方案基于稳定学习到的内部分布，以增强模型在新域上的泛化能力。内部分布由隐藏层中的网络响应建模。我们使用高斯混合模型（GMM）对此内部分布进行建模，并通过将新域的内部学习分布与估计的GMM匹配来更新模型。此外，我们利用经验回放来克服灾难性遗忘问题，即模型在学习新任务时丢失先前获得的知识。我们提供了理论分析来解释我们的算法为何有效。我们还提供了广泛的比较和分析实验，以证明我们的方法是有效的。我们在四个基准数据集上进行了实验，以证明我们的方法是有效的。
引用
@article{arxiv.2402.00580,
title = {Continuous Unsupervised Domain Adaptation Using Stabilized Representations and Experience Replay},
author = {Mohammad Rostami},
journal= {arXiv preprint arXiv:2402.00580},
year = {2024}
}