使用 Multibatch 方法学习用于人脸识别的度量嵌入
计算机视觉与模式识别
2016-05-25 v1
摘要
本工作源于一项工程任务：在运行于嵌入式系统上的最小计算预算下，实现接近最先进水平的人脸识别。我们的主要技术贡献围绕一种名为 Multibatch 的新型训练方法，用于相似性学习，即通过训练“相同”和“不同”人脸图像对来生成不变的“人脸签名”的任务。Multibatch 方法首先生成一个小批量 张人脸图像的签名，然后利用该小批量中的所有 个对来构建全梯度的无偏估计。我们证明，在一些温和条件下，Multibatch 估计量的方差受限于 。相比之下，依赖于随机 个对的标准梯度估计量的方差为 量级。Multibatch 估计量较小的方差显著加快了随机梯度下降的收敛速度。使用 Multibatch 方法，我们训练了一个深度卷积神经网络，在 LFW 基准测试上达到了 的准确率，而其预测运行时间在单个 ARM Cortex A9 核心上仅需 毫秒。此外，整个训练过程在单个 Titan X GPU 上仅耗时 12 小时。
引用
@article{arxiv.1605.07270,
title = {Learning a Metric Embedding for Face Recognition using the Multibatch Method},
author = {Oren Tadmor and Yonatan Wexler and Tal Rosenwein and Shai Shalev-Shwartz and Amnon Shashua},
journal= {arXiv preprint arXiv:1605.07270},
year = {2016}
}