二分与泛化：PAC-Bayesian二值激活深度神经网络
机器学习
2020-02-05 v5 机器学习
摘要
我们基于PAC-Bayesian理论对二值激活多层神经网络进行了全面研究。我们的贡献有两点：(i) 我们开发了端到端训练二值激活深度神经网络的框架，(ii) 我们给出了二值激活深度神经网络的非空PAC-Bayesian泛化界。我们的结果通过最小化二值激活深度神经网络架构相关聚合的期望损失获得。我们的分析天然克服了二值激活函数不可微的事实。我们方法的性能在真实数据集上的详尽数值实验协议中得到评估。
引用
@article{arxiv.1905.10259,
title = {Dichotomize and Generalize: PAC-Bayesian Binary Activated Deep Neural Networks},
author = {Gaël Letarte and Pascal Germain and Benjamin Guedj and François Laviolette},
journal= {arXiv preprint arXiv:1905.10259},
year = {2020}
}