结合大批次与相似度 Mixup 的 Recall@k 替代损失
计算机视觉与模式识别
2022-03-28 v2
摘要
本工作通过探索新损失函数、批次大小与新正则化方法之间的相互作用，专注于学习用于检索的深度视觉表示模型。当评估指标不可微时（检索中的召回率即是如此），无法通过梯度下降对其进行直接优化。本工作提出了一种用于召回率的可微替代损失。利用一种规避 GPU 内存硬件限制的实现，该方法以极大的批次大小进行训练，这对于在整个检索数据库上计算的指标至关重要。它由一种高效的 mixup 正则化方法辅助，该方法作用于成对标量相似度并进一步虚拟增加批次大小。当用于深度度量学习时，所提方法在多个图像检索基准上达到了 SOTA 性能。对于实例级识别，该方法优于使用平均精度近似进行训练的类似方法。
引用
@article{arxiv.2108.11179,
title = {Recall@k Surrogate Loss with Large Batches and Similarity Mixup},
author = {Yash Patel and Giorgos Tolias and Jiri Matas},
journal= {arXiv preprint arXiv:2108.11179},
year = {2022}
}
备注
CVPR 2022 camera-ready version