基于代理的深度度量学习的一种非各向同性概率视角
机器学习
2022-07-11 v1 机器学习
摘要
基于代理的深度度量学习（DML）通过学习将图像嵌入至其类别代表（代理）附近来提取深度表征，通常依据图像与代理间的夹角进行。然而，这忽略了嵌入范数，而范数可携带有益的额外上下文，如类别或图像内在的不确定性。此外，基于代理的DML难以学习类内结构。为同时解决这两个问题，我们提出非各向同性概率化基于代理的DML。我们将图像建模为超球面上的方向性von Mises-Fisher（vMF）分布，以反映图像内在不确定性。进一步，我们推导出用于类别代理的非各向同性von Mises-Fisher（nivMF）分布，以更好地表示复杂的类特定方差。为度量这些模型间的代理到图像距离，我们提出并研究了多种分布到点以及分布到分布的度量。每一项框架选择均由一组消融研究支撑，其展示了我们概率化基于代理的DML方法的有益特性，如不确定性感知、训练期间更良好的梯度行为，以及整体改进的泛化性能。后者在标准DML基准上具有竞争力的表现中尤为体现，我们的方法优势明显，表明现有基于代理的DML可从更概率化的处理中显著受益。代码见github.com/ExplainableML/Probabilistic_Deep_Metric_Learning。
引用
@article{arxiv.2207.03784,
title = {A Non-isotropic Probabilistic Take on Proxy-based Deep Metric Learning},
author = {Michael Kirchhof and Karsten Roth and Zeynep Akata and Enkelejda Kasneci},
journal= {arXiv preprint arXiv:2207.03784},
year = {2022}
}
备注
Accepted as conference paper at ECCV 2022