深度卷积表：无卷积的深度学习
计算机视觉与模式识别
2023-04-25 v1
摘要
我们提出一种不使用点积神经元、转而依赖记为卷积表（CT）的投票表层级结构的新颖深度网络形式，以实现加速的基于 CPU 的推理。卷积层是当代深度学习技术中最耗时的瓶颈，严重限制其在物联网和基于 CPU 的设备中的使用。所提 CT 在每个图像位置执行 fern 操作：它将位置环境编码为二进制索引，并使用该索引从表中检索所需的局部输出。多个表的结果被组合以得出最终输出。CT 变换的计算复杂度与块（滤波器）大小无关，并随通道数优雅增长，优于可比较的卷积层。研究表明其容量:计算比优于点积神经元，且深度 CT 网络展现出类似于神经网络的通用逼近性质。由于该变换涉及计算离散索引，我们推导了一种软松弛和基于梯度的方法来训练 CT 层级。深度 CT 网络经实验证明具有与类似架构 CNN 相当的精度。在低计算量 regime 下，它们实现了优于替代高效 CNN 架构的误差:速度权衡。
引用
@article{arxiv.2304.11706,
title = {Deep Convolutional Tables: Deep Learning without Convolutions},
author = {Shay Dekel and Yosi Keller and Aharon Bar-Hillel},
journal= {arXiv preprint arXiv:2304.11706},
year = {2023}
}
备注
Accepted for publication. IEEE Transactions on Neural Networks and Learning Systems