重新审视深度度量学习中的训练策略与泛化性能
计算机视觉与模式识别
2020-08-04 v9
摘要
深度度量学习(DML)可以说是学习视觉相似度最具影响力的研究方向之一，每年都有许多提出的方法。尽管该领域受益于快速进展，训练协议、架构和参数选择的差异使得无偏比较十分困难。为提供一致的参考点，我们重新审视了最广泛使用的DML目标函数，并对关键参数选择以及常被忽视的小批量采样过程进行了研究。在一致比较下，DML目标函数显示出比文献所指高得多的饱和性。进一步基于我们的分析，我们揭示了嵌入空间密度与压缩同DML模型泛化性能之间的相关性。利用这些见解，我们提出了一种简单而有效的训练正则化方法，以可靠地提升基于排序的DML模型在各种标准基准数据集上的性能。代码与公开可访问的WandB仓库见于 https://github.com/Confusezius/Revisiting_Deep_Metric_Learning_PyTorch。
引用
@article{arxiv.2002.08473,
title = {Revisiting Training Strategies and Generalization Performance in Deep Metric Learning},
author = {Karsten Roth and Timo Milbich and Samarth Sinha and Prateek Gupta and Björn Ommer and Joseph Paul Cohen},
journal= {arXiv preprint arXiv:2002.08473},
year = {2020}
}
备注
ICML 2020. Main paper 8.25 pages, 26 pages total