CAKES：用于高效 3D 网络的通道级自动核收缩
计算机视觉与模式识别
2020-12-18 v3
摘要
3D 卷积神经网络 (CNNs) 已广泛应用于 3D 场景理解，如视频分析和体图像识别。然而，3D 网络容易导致过参数化，从而产生昂贵的计算成本。本文提出通道级自动核收缩 (CAKES)，通过将标准 3D 卷积收缩为一组经济操作（如 1D、2D 卷积）来实现高效的 3D 学习。与以往方法不同，CAKES 执行通道级核收缩，具有以下优势：1) 使部署在每一层的操作具有异构性，从而提取多样且互补的信息以裨益学习过程；2) 允许高效且灵活的替换设计，可推广到时空与体数据。此外，我们基于 CAKES 提出新的搜索空间，从而可自动确定替换配置以简化 3D 网络。CAKES 在以相似模型规模下优于其他方法，并且在 3D 医学图像分割和视频动作识别等任务上以远少的参数与计算成本取得了与最先进 (state-of-the-art) 方法相当的性能。代码与模型见 https://github.com/yucornetto/CAKES
引用
@article{arxiv.2003.12798,
title = {CAKES: Channel-wise Automatic KErnel Shrinking for Efficient 3D Networks},
author = {Qihang Yu and Yingwei Li and Jieru Mei and Yuyin Zhou and Alan L. Yuille},
journal= {arXiv preprint arXiv:2003.12798},
year = {2020}
}
备注
AAAI 2021