受生物启发的语义侧向连接用于卷积神经网络
计算机视觉与模式识别
2021-05-21 v1
摘要
侧向连接通过支持对高度相似特征也可区分的神经元响应,在视觉皮层的感觉处理中发挥重要作用。在本工作中,我们表明沿滤波器域建立受生物启发的墨西哥帽侧向连接轮廓,可以在不增加可训练网络参数的情况下显著提升多种轻量级卷积神经网络的分类准确率。此外,我们证明可以解析地确定调制滤波器激活的稳态分布,从而避免使用时序动态建模中的递归。我们进一步揭示,墨西哥帽连接轮廓具有将滤波器按类似于早期视觉皮层特征选择性的地形组织顺序排列的效果。在有序滤波器序列中,该轮廓进而锐化了滤波器的调谐曲线。
引用
@article{arxiv.2105.09830,
title = {Biologically Inspired Semantic Lateral Connectivity for Convolutional Neural Networks},
author = {Tonio Weidler and Julian Lehnen and Quinton Denman and Dávid Sebők and Gerhard Weiss and Kurt Driessens and Mario Senden},
journal= {arXiv preprint arXiv:2105.09830},
year = {2021}
}
备注
10 pages, 4 figures