DEJA VU: 面向未知域的持续模型泛化
机器学习
2023-03-13 v2 人工智能
计算机视觉与模式识别
摘要
在真实应用中,深度学习模型常运行于非平稳环境中,目标数据分布随时间持续偏移。已有大量在线与离线模式的域适应(DA)方法用于提升跨域适应能力。然而,这些DA方法通常仅在长时间适应后表现良好,而在适应前及适应过程中的新域上表现不佳——即我们所称的“陌生期”,尤其在域偏移突然且显著时。另一方面,域泛化(DG)方法被提出以提升模型在未适应域上的泛化能力。但现有DG工作因对已学知识的严重灾难性遗忘,对持续变化的域无效。为克服DA与DG在处理持续域偏移中陌生期的局限,我们提出RaTP框架,其聚焦于提升模型的目标域泛化(TDG)能力,同时在特定域训练后即刻获得有效目标域适应(TDA)能力,以及对过去域的遗忘缓解(FA)能力。RaTP包含无训练数据增强模块以为TDG准备数据、新颖伪标注机制以为TDA提供可靠监督、以及原型对比对齐算法以对齐不同域从而实现TDG、TDA与FA。在Digits、PACS与DomainNet上的大量实验表明,RaTP在TDG上显著优于持续DA、无源DA、测试时/在线DA、单DG、多DG及统一DA&DG的SOTA工作,并取得相当的TDA与FA能力。
引用
@article{arxiv.2301.10418,
title = {DEJA VU: Continual Model Generalization For Unseen Domains},
author = {Chenxi Liu and Lixu Wang and Lingjuan Lyu and Chen Sun and Xiao Wang and Qi Zhu},
journal= {arXiv preprint arXiv:2301.10418},
year = {2023}
}
备注
Published as a conference paper at ICLR 2023