一个损失函数统揽一切:基于单一余弦相似度学习目标的深度哈希
计算机视觉与模式识别
2021-09-30 v1 机器学习
摘要
深度哈希模型通常有两个主要学习目标:使学习到的二值哈希码具有判别性,以及最小化量化误差。在位平衡和码正交性等进一步约束下,现有模型采用大量(>4)损失函数的情况并不少见。这导致模型训练困难,进而影响其有效性。在本工作中,我们提出了一种仅具有单一学习目标的新型深度哈希模型。具体而言,我们证明了最大化连续码及其对应二值正交码之间的余弦相似度,可以同时保证哈希码的判别性和量化误差最小化。此外,通过该学习目标,只需使用 Batch Normalization (BN) 层即可实现码平衡,并且通过标签平滑也能直接进行多标签分类。最终得到的是一个单损失深度哈希模型,消除了调节各种损失权重的所有麻烦。重要的是,大量实验表明我们的模型非常有效,在三个大规模实例检索基准上优于 SOTA 的多损失哈希模型,且通常优势显著。代码可在 https://github.com/kamwoh/orthohash 获取。
引用
@article{arxiv.2109.14449,
title = {One Loss for All: Deep Hashing with a Single Cosine Similarity based Learning Objective},
author = {Jiun Tian Hoe and Kam Woh Ng and Tianyu Zhang and Chee Seng Chan and Yi-Zhe Song and Tao Xiang},
journal= {arXiv preprint arXiv:2109.14449},
year = {2021}
}
备注
Accepted at NeurIPS 2021