基于筛法的张量积空间回归
统计方法学
2022-06-08 v1 统计理论
统计理论
摘要
条件均值（将一组特征与感兴趣的结果相关联）的估计是一项基础的统计任务。尽管灵活的非参数方法具有吸引力，但在许多经典非参数函数空间（例如多元 Sobolev 空间）中进行有效估计——无论统计上还是计算上——都可能极其困难，尤其当特征数量很大时。本文中，我们提出用于非参数张量积空间中回归的（惩罚）筛估计量：这些空间更适于多元回归，并使我们能部分避免维数灾难。我们的估计量可轻松应用于多元非参数问题，并具有吸引人的统计与计算性质。此外，它们能有效利用如特征稀疏性等额外结构。在本稿中，我们给出理论保证，表明我们估计量的预测性能随维数变化有利。另外，我们还给出数值例子，将所提估计量与几种流行机器学习方法的有限样本表现进行比较。
引用
@article{arxiv.2206.02994,
title = {Regression in Tensor Product Spaces by the Method of Sieves},
author = {Tianyu Zhang and Noah Simon},
journal= {arXiv preprint arXiv:2206.02994},
year = {2022}
}