带跳跃连接的贝叶斯卷积神经网络的自由能
机器学习
2023-07-06 v1 机器学习
摘要
自残差网络(ResNet)取得成功以来,许多卷积神经网络(CNNs)的架构都采用了跳跃连接。虽然带跳跃连接的 CNN 的泛化性能已在集成学习框架内得到解释,但其对参数数量的依赖尚未揭示。在本文中,我们给出了贝叶斯学习中带与不带跳跃连接的卷积神经网络的贝叶斯自由能。带跳跃连接的贝叶斯 CNN 自由能的上界不依赖于过参数化,且贝叶斯 CNN 的泛化误差具有类似性质。
引用
@article{arxiv.2307.01417,
title = {Free energy of Bayesian Convolutional Neural Network with Skip Connection},
author = {Shuya Nagayasu and Sumio Watanabe},
journal= {arXiv preprint arXiv:2307.01417},
year = {2023}
}
备注
16 pages, 4 figures