卷积神经网络架构如何偏置所学的对立性与颜色调谐
计算机视觉与模式识别
2020-10-07 v1 机器学习
神经与进化计算
神经元与认知
摘要
近期研究表明，通过在第二层引入瓶颈来改变卷积神经网络(CNN)架构可引发所学函数的变化。要充分理解这种关系，需要一种定量比较已训练网络的方法。电生理与心理物理领域已发展出大量表征视觉系统的方法，可支持此类比较。受这些方法启发，我们提出一种获取卷积神经元空间与颜色调谐曲线的方法，可用于依据其空间与颜色对立性对细胞分类。我们对一系列不同深度与瓶颈宽度的CNN进行此类分类。我们的关键发现是：带瓶颈的网络呈现出强烈的功能组织——瓶颈层中几乎所有细胞都变为空间与颜色对立的，瓶颈后一层的细胞则变为非对立的。颜色调谐数据可进一步用于深入理解网络如何编码颜色。作为一个具体演示，我们展示无瓶颈的较浅网络学到复杂的非线性颜色系统，而带紧凑瓶颈的较深网络在瓶颈层学到简单的通道对立编码。我们进一步开发了一种获取已训练CNN色调敏感曲线的方法，可提供补充颜色调谐数据底层发现的高层洞见。我们继而在不同条件下训练一系列网络以确定所述结果的鲁棒性。最终，我们的方法与发现同先前工作相融合，增强了解释已训练CNN的能力，并深化了对架构与所学表示之间联系的理解。所有实验代码可在 https://github.com/ecs-vlc/opponency 获取。
引用
@article{arxiv.2010.02634,
title = {How Convolutional Neural Network Architecture Biases Learned Opponency and Colour Tuning},
author = {Ethan Harris and Daniela Mihai and Jonathon Hare},
journal= {arXiv preprint arXiv:2010.02634},
year = {2020}
}
备注
Final version; Accepted for publication in Neural Computation