跨域生成式增强：基于潜在扩散模型的领域泛化
机器学习
2023-12-12 v1
摘要
尽管在为领域泛化（DG）开发新型正则化器方面付出了巨大努力，但向作为邻域风险最小化原理（VRM）\citep{chapule2000vicinal} 实际实现的原始 ERM 添加简单的数据增强，其性能优于或可与许多提出的正则化器相媲美。VRM 通过用对真实数据分布更精确的估计替换逐点核估计，从而减小**每个域内**数据点之间的差距，进而减小了 ERM 中的估计误差。然而，在 DG 设定下，ERM 对真实数据分布的估计误差主要由**域间**的分布偏移引起，这无法通过域内的简单数据增强技术来充分解决。受 VRM 此局限性的启发，我们提出了一种名为跨域生成式增强（CDGA）的新型数据增强方法，该方法用**域对邻域**中的新密度估计替换 ERM 中的逐点核估计，从而进一步缩小域间差距。为此，建立在潜在扩散模型（LDM）之上的 CDGA 生成合成图像以填补所有域之间的空白，进而降低了非独立同分布性。我们表明，在 Domainbed 基准下 CDGA 优于 SOTA DG 方法。为了解释 CDGA 的有效性，我们生成了超过 500 万张合成图像，并进行了广泛的消融研究，包括数据缩放定律、分布可视化、域偏移量化、对抗鲁棒性以及损失景观分析。
引用
@article{arxiv.2312.05387,
title = {Cross Domain Generative Augmentation: Domain Generalization with Latent Diffusion Models},
author = {Sobhan Hemati and Mahdi Beitollahi and Amir Hossein Estiri and Bassel Al Omari and Xi Chen and Guojun Zhang},
journal= {arXiv preprint arXiv:2312.05387},
year = {2023}
}