基于RKHM与Perron-Frobenius算子的核方法深度学习
机器学习
2023-11-07 v2 机器学习
摘要
再生核Hilbert -模(RKHM)是借助-代数对再生核Hilbert空间(RKHS)的推广,而Perron-Frobenius算子是与函数复合相关的一个线性算子。结合这两个概念,我们提出deep RKHM,一种面向核方法的深度学习框架。我们在该设定下推导了一个新的Rademacher泛化界,并借助Perron-Frobenius算子对良性过拟合给出了理论解释。得益于-代数,该界对输出维度的依赖比现有界更温和。我们表明,-代数是核方法深度学习的合适工具,使我们能够利用算子的乘积结构,并与卷积神经网络建立清晰联系。我们的理论分析为设计和分析深度核方法提供了一个新的视角。
引用
@article{arxiv.2305.13588,
title = {Deep Learning with Kernels through RKHM and the Perron-Frobenius Operator},
author = {Yuka Hashimoto and Masahiro Ikeda and Hachem Kadri},
journal= {arXiv preprint arXiv:2305.13588},
year = {2023}
}