基于梯度吸附层的精确深度表示量化用于相似性搜索
计算机视觉与模式识别
2016-11-01 v1
摘要
近期大规模相似性搜索的进展涉及使用深度学习表示来提高搜索精度，并利用向量量化方法来提高搜索速度。然而，如何学习既能强力保持数据对之间的相似性，又能通过向量量化进行精确量化的深度表示，仍然是一项具有挑战性的任务。现有方法仅利用量化损失和相似性损失，导致反向传播梯度出现意外的偏差并影响搜索性能。为此，我们提出了一种新颖的梯度吸附层（GSL），直接将反向传播梯度正则化至邻近的码字，生成的梯度无偏以减少相似性损失，并推动学习到的表示能够被精确量化。联合深度表示和向量量化学习可以通过交替优化量化码本和深度神经网络轻松实现。所提出的框架兼容各种现有的向量量化方法。实验结果表明，所提出的框架有效、灵活，且优于最先进的大规模相似性搜索方法。
引用
@article{arxiv.1610.09645,
title = {Accurate Deep Representation Quantization with Gradient Snapping Layer for Similarity Search},
author = {Shicong Liu and Hongtao Lu},
journal= {arXiv preprint arXiv:1610.09645},
year = {2016}
}