是否应加深网络？基于感受野分析的无训练卷积神经网络架构优化
机器学习
2022-06-23 v2 人工智能
神经与进化计算
机器学习
摘要
在为特定基于图像的任务优化卷积神经网络（CNN）时，专业人员通常会在设计中过多设置卷积层数量。这意味着这些 CNN 在训练和部署时存在不必要的资源消耗，且对预测性能的提升效益递减。卷积层所能处理的特征严格受限于其感受野。通过逐层分析感受野的大小，我们可以可靠地预测在给定 CNN 架构中不会对测试精度产生实质性贡献的层序列。基于该分析，我们提出了以所谓边界层为基础的设计策略。该层可用于识别无产出的卷积层，从而解决这些低效问题，优化 CNN 的可解释性与计算性能。由于这些策略与分析均无需实际模型的训练，上述见解使得 CNN 架构的设计过程非常高效，未来有望实现自动化。
引用
@article{arxiv.2106.12307,
title = {Should You Go Deeper? Optimizing Convolutional Neural Network Architectures without Training by Receptive Field Analysis},
author = {Mats L. Richter and Julius Schöning and Anna Wiedenroth and Ulf Krumnack},
journal= {arXiv preprint arXiv:2106.12307},
year = {2022}
}
备注
Preprint