基于语义数据增强的距离度量学习用于域泛化
机器学习
2022-09-14 v3 代数拓扑
摘要
域泛化(DG)旨在一个或多个不同但相关的源域上学习模型，使其能泛化至未见目标域。现有DG方法试图提升源域的多样性以增强模型泛化能力，但可能不得不引入辅助网络或高昂计算成本。相反，本工作将特征空间中的隐式语义增强用于捕捉源域多样性。具体地，引入一个距离度量学习(DML)的额外损失函数以优化数据分布的局部几何。此外，采用具有无限增强的交叉熵损失产生的logits作为DML损失的输入特征，以替代深度特征。我们还提供理论分析表明logits能良好近似原始特征上定义的距离。进一步，我们深入分析了方法的机制与原理，从而更好理解为何用logits替代特征有助于域泛化。所提带隐式增强的DML损失被纳入近期DG方法即傅里叶增强协同教师框架(FACT)中。同时，我们的方法也可轻松插入多种DG方法。在三个基准(Digits-DG、PACS与Office-Home)上的大量实验表明，所提方法能达到最先进(state-of-the-art)性能。
引用
@article{arxiv.2208.02803,
title = {Semantic Data Augmentation based Distance Metric Learning for Domain Generalization},
author = {Mengzhu Wang and Jianlong Yuan and Qi Qian and Zhibin Wang and Hao Li},
journal= {arXiv preprint arXiv:2208.02803},
year = {2022}
}
备注
Accept to ACMMM2022