改进深度网络在图像序列逆重建中的泛化能力
机器学习
2019-05-14 v1 机器学习
摘要
深度学习网络在许多图像重建问题中已展现出最先进的性能。然而，何种表征与学习的性质可提升网络的泛化能力尚不甚明了。本文提出，编码器-解码器网络用于逆重建的泛化能力可通过两种途径得以改进。首先，借鉴分析学习理论，我们从理论上证明随机隐空间将提升网络对训练分布之外测试数据的泛化能力。其次，遵循信息瓶颈原理，我们证明对输入数据信息量最小的隐表征将有助于网络泛化到与输出重建无关的未见输入变化。因此，我们提出一种序列图像重建网络，该网络由具有随机隐空间的信息瓶颈原理的变分近似所优化。在从体表电位重建心脏跨膜电位序列的应用场景中，我们针对其确定性对应网络评估了所提网络的两类泛化能力。结果表明，逆重建网络的泛化能力可通过随机性与信息瓶颈得以提升。
引用
@article{arxiv.1903.02948,
title = {Improving Generalization of Deep Networks for Inverse Reconstruction of Image Sequences},
author = {Sandesh Ghimire and Prashnna Kumar Gyawali and Jwala Dhamala and John L Sapp and Milan Horacek and Linwei Wang},
journal= {arXiv preprint arXiv:1903.02948},
year = {2019}
}
备注
arXiv admin note: substantial text overlap with arXiv:1810.05713