面向大规模人脸表征学习的原型记忆
计算机视觉与模式识别
2022-02-04 v2 人工智能
机器学习
摘要
使用具有海量身份数量的数据集进行人脸表征学习需要合适的训练方法。基于Softmax的方法作为当前人脸识别的最优方法，其通常的“全Softmax”形式并不适用于包含数百万人的数据集。为此提出了若干基于“采样Softmax”的方法以消除该限制。然而，这些方法存在一系列缺点。其中之一是“原型过时”问题：被罕见采样的类的分类器权重（原型）获得的梯度过于稀少，变得过时并与当前编码器状态脱节，导致错误的训练信号。该问题在超大规模数据集中尤为严重。本文提出一种称为原型记忆（Prototype Memory）的新型人脸表征学习模型，其缓解了该问题并允许在任意规模的数据集上训练。原型记忆由用于存储近期类原型的有限大小记忆模块组成，并采用一组算法以恰当方式更新它。新的类原型利用当前小批量中的样本嵌入即时生成。这些原型被入队至记忆中，并用作基于Softmax分类训练的 classifier 权重。为防止过时并保持记忆与编码器的紧密关联，原型被定期刷新，最旧的原型被出队并丢弃。原型记忆计算高效且与数据集大小无关。它可与各种损失函数、难例挖掘算法及编码器架构配合使用。我们在流行的人脸识别基准上通过大量实验证明了所提模型的有效性。
引用
@article{arxiv.2105.02103,
title = {Prototype Memory for Large-scale Face Representation Learning},
author = {Evgeny Smirnov and Nikita Garaev and Vasiliy Galyuk and Evgeny Lukyanets},
journal= {arXiv preprint arXiv:2105.02103},
year = {2022}
}