卷积神经网络上的简约推理：学习和应用在线核激活规则
计算机视觉与模式识别
2017-02-01 v5 人工智能
机器学习
神经与进化计算
摘要
本文提出了一种新的、激进的卷积神经网络 (CNN) 设计方法，旨在减少推理过程中的总计算负载。这是通过对 CNN 架构和训练过程进行新的整体干预来实现的，目标是通过学习利用或移除 CNN 架构的冗余能力来实现简约推理。这是通过引入一种新的结构元素来实现的，该元素可以作为插件插入到任何现代 CNN 架构中，同时保持甚至提高其识别准确率。我们的方法制定了一种系统且数据驱动的方法，用于开发那些被训练为在推理过程中实时改变大小和形式的 CNN，旨在实现尽可能小的计算足迹。结果展示了在现代高端移动计算平台上的最优实现，表明速度显著提升，最高可达 3 倍。
引用
@article{arxiv.1701.05221,
title = {Parsimonious Inference on Convolutional Neural Networks: Learning and applying on-line kernel activation rules},
author = {I. Theodorakopoulos and V. Pothos and D. Kastaniotis and N. Fragoulis},
journal= {arXiv preprint arXiv:1701.05221},
year = {2017}
}
备注
17 pages, 10 figures, 5 tables