一种用于学习解耦表示的对比目标函数
计算机视觉与模式识别
2022-03-23 v1 机器学习
摘要
学习对敏感或不需要的属性不变的图像表示，对于包括去偏和跨域检索在内的许多任务十分重要。此处，我们的目标是在有标签的域（敏感属性）上学习不变表示，同时对所有其他无标签的图像属性保持信息性。我们提出一种新方法，给出一种新的域间对比目标函数以确保不变表示。该目标函数关键地将负图像对限制为从同一域中抽取，从而强制域不变性，而标准对比目标函数则不然。该域间目标函数单独使用并不充分，因为它存在导致特征抑制的捷径解。我们通过结合重建约束、图像增强和使用预训练权重的初始化克服了这一问题。我们的分析表明，增强方式的选择很重要，且错误的增强选择会损害不变性与信息性目标。在一项广泛评估中，我们的方法在表示不变性、表示信息性和训练速度上均令人信服地优于最先进水平。此外，我们发现某些情况下即便无重建约束，我们的方法也能取得优异结果，从而实现更快且更省资源的训练。
引用
@article{arxiv.2203.11284,
title = {A Contrastive Objective for Learning Disentangled Representations},
author = {Jonathan Kahana and Yedid Hoshen},
journal= {arXiv preprint arXiv:2203.11284},
year = {2022}
}