Gabor 滤波器辅助的节能快速学习卷积神经网络
神经与进化计算
2017-11-13 v1 计算机视觉与模式识别
摘要
卷积神经网络（CNN）正日益用于计算机视觉中广泛的分类与识别问题。然而，训练这些大型网络需要高计算时间和能量需求；因此，其节能实现备受关注。本工作中，我们通过将 CNN 的某些权重核替换为 Gabor 滤波器来降低 CNN 的训练复杂度。卷积层使用 Gabor 滤波器作为固定权重核，提取内在特征，并与常规可训练权重核结合。该组合创建了一个平衡系统，在能量和时间方面提供比独立 CNN（无任何 Gabor 核）更好的训练性能，代价是可容忍的精度下降。我们表明，通过对 Gabor 核进行部分训练（占总训练周期的一小部分），可缓解精度下降。我们在 4 个基准应用上评估了所提方法。简单任务如人脸检测和字符识别（MNIST 和 TiCH）使用 LeNet 架构实现。而更复杂的物体识别任务（CIFAR10）在先进深度 CNN（Network in Network）架构上实现。所提方法相比传统 CNN 实现在训练能量上获得 1.31-1.53 倍提升。我们还在训练时间上获得最高 1.4 倍提升，存储需求最高 2.23 倍，存储器访问能量最高 2.2 倍。近似实现所遭受的精度下降在基线的 0-3% 以内。
引用
@article{arxiv.1705.04748,
title = {Gabor Filter Assisted Energy Efficient Fast Learning Convolutional Neural Networks},
author = {Syed Shakib Sarwar and Priyadarshini Panda and Kaushik Roy},
journal= {arXiv preprint arXiv:1705.04748},
year = {2017}
}
备注
Accepted in ISLPED 2017