基于全变分正则化的广义加性模型的统计可学习性

广义加性模型（GAM，Hastie 与 Tibshirani（1987））是一种非参数模型，由关于各解释变量的单变量函数之和给出，即 $f({\mathbf x}) = \sum f_j(x_j)$，其中 $x_j\in\mathbb{R}$ 是样本 ${\mathbf x}\in \mathbb{R}^p$ 的第 $j$ 个分量。本文中，我们引入函数的全变分（TV）作为 $L^1_{\rm c}(\mathbb{R})$ 空间中函数复杂度的度量。我们的分析表明，基于 TV 正则化的 GAM 展现出 $O(\sqrt{\frac{\log p}{m}})$ 的 Rademacher 复杂度，该复杂度在分类问题的不可知情形下关于 $m$ 与 $p$ 均为紧的。据此，我们根据 Bartlett 与 Mandelson（2002）的工作获得了有限样本的泛化误差界。