梳状卷积用于高效卷积架构
数理金融
2019-11-04 v1
摘要
卷积神经网络（CNNs）由于特征图与卷积核之间的密集连接模式，固有地遭受大量冗余计算（FLOPs）的困扰。近期研究探讨了通道间的稀疏关系，然而它们忽略了通道内的空间关系。本文中，我们提出一种新颖卷积算子，即梳状卷积，以利用神经元内通道稀疏关系。所提卷积算子通过将均匀映射插入标准卷积并移除卷积层中约一半空间连接，消除了近50%的连接。值得注意的是，我们的工作与减少通道冗余的现有方法正交且互补。因此，通过将梳状卷积集成到现有架构中，具有进一步提升效率的巨大潜力。实验结果表明，通过在SOTA CNN架构（例如VGGNets、Xception和SE-Net）上简单地将标准卷积替换为梳状卷积，我们可实现50%的FLOPs降低，同时仍保持准确率。
引用
@article{arxiv.1911.00386,
title = {Risk Neutral Valuation of Inflation-Linked Interest Rate Derivatives},
author = {Flavia Antonacci and Cristina Costantini and Fernanda D'Ippoliti and Marco Papi},
journal= {arXiv preprint arXiv:1911.00386},
year = {2019}
}