无限宽神经网络无限集成中的信息
机器学习
2022-11-08 v3 信息论
math.IT
机器学习
摘要
在这项初步工作中，我们研究了无限宽神经网络无限集成的泛化性质。令人惊讶的是，该模型族允许对许多信息论量进行可处理的运算。我们报告了在分析上和实验上的探索，以寻找与泛化相关的信号。
引用
@article{arxiv.1911.09189,
title = {Information in Infinite Ensembles of Infinitely-Wide Neural Networks},
author = {Ravid Shwartz-Ziv and Alexander A. Alemi},
journal= {arXiv preprint arXiv:1911.09189},
year = {2022}
}
备注
2nd Symposium on Advances in Approximate Bayesian Inference, 2019