基于卷积核冗余度量的 ResNet 结构简化
计算机视觉与模式识别
2022-12-02 v1 机器学习
图像与视频处理
摘要
深度学习，尤其是卷积神经网络，已推动了计算机视觉的加速发展，并为我们的日常实践带来了改变。此外，标准化的深度学习模块（亦称骨干网络），即 ResNet 和 EfficientNet，已实现了新型计算机视觉解决方案的高效快速开发。然而，深度学习方法仍存在若干缺陷。最受关注的问题之一是高昂的内存与计算成本，以至于必须使用专用计算单元（通常为 GPU）进行训练与开发。因此，本文提出一种可量化的评估方法——基于感知图像差异的卷积核冗余度量，用于指导网络结构简化。将该方法应用于胸部 X 光图像分类问题中的 ResNet 时，我们的方法能够保持网络性能，并将参数量从超过 百万减少至约 千（减少 的参数）。
引用
@article{arxiv.2212.00272,
title = {ResNet Structure Simplification with the Convolutional Kernel Redundancy Measure},
author = {Hongzhi Zhu and Robert Rohling and Septimiu Salcudean},
journal= {arXiv preprint arXiv:2212.00272},
year = {2022}
}