深度神经网络反演的提升Bregman形式化
数值分析
2023-03-06 v1 机器学习
数值分析
摘要
我们提出一种用于深度神经网络正则化反演的新框架。该框架基于作者近期关于无需对激活函数求导训练前馈神经网络的工作。框架通过引入辅助变量将参数空间提升至高维空间，并以定制的Bregman距离对这些变量进行惩罚。我们基于这些Bregman距离提出一族变分正则化方法，给出理论结果并通过数值算例支撑其实际应用。特别地，我们给出了（据我们所知）首个针对单层感知机正则化反演的收敛结果，其仅假设逆问题的解位于正则化算子的值域中，并表明当测量误差收敛到零时正则化逆可证明收敛到真实逆。
引用
@article{arxiv.2303.01965,
title = {A Lifted Bregman Formulation for the Inversion of Deep Neural Networks},
author = {Xiaoyu Wang and Martin Benning},
journal= {arXiv preprint arXiv:2303.01965},
year = {2023}
}
备注
21 pages, 9 figures