中文

次齐次深度平衡模型

机器学习 2024-06-07 v2 数值分析 数值分析 最优化与控制

摘要

近年来,隐式深度神经网络已成为传统网络在各种应用中的强大替代品。然而,这些模型通常缺乏存在性和唯一性的保证,引发了稳定性、性能和可重复性问题。在本文中,我们基于次齐次算子和非线性Perron-Frobenius理论,对隐式深度神经网络不动点的存在性和唯一性提出了新的分析。与以往类似分析相比,我们的理论允许对参数矩阵施加更弱的假设,从而为定义良好的隐式网络提供了更灵活的框架。我们在前馈、卷积和图神经网络示例上展示了所得次齐次网络的性能。

关键词

引用

@article{arxiv.2403.00720,
  title  = {Subhomogeneous Deep Equilibrium Models},
  author = {Pietro Sittoni and Francesco Tudisco},
  journal= {arXiv preprint arXiv:2403.00720},
  year   = {2024}
}