面向人脸识别的神经网络连接稀疏化
计算机视觉与模式识别
2015-12-08 v1
摘要
本文提出学习具有稀疏神经连接的高性能深度卷积网络（称为稀疏卷积网络）用于人脸识别。稀疏卷积网络以迭代方式学习：每次稀疏化一个附加层，并在给定前几次迭代所学初始权重的情况下重新训练整个模型。一个重要发现是，直接从零开始训练稀疏卷积网络未能为人脸识别找到良好解，而使用先前学习的较稠密模型来恰当初始化更稀疏的模型，对于继续学习有效的人脸识别特征至关重要。本文还提出了一种基于神经相关性的权重选择准则，并凭经验验证了其在每次迭代中从先前学习模型选择信息性连接的有效性。当采用中等稀疏结构（稠密模型中权重的 26%–76%）时，所提出的稀疏卷积网络模型在相同训练数据下显著改善了先前最先进的 DeepID2+ 模型的人脸识别性能，同时仅用原始参数 12% 即保持了基线模型的性能。
引用
@article{arxiv.1512.01891,
title = {Sparsifying Neural Network Connections for Face Recognition},
author = {Yi Sun and Xiaogang Wang and Xiaoou Tang},
journal= {arXiv preprint arXiv:1512.01891},
year = {2015}
}