通过低秩方法从点查询学习非参数基独立模型
机器学习
2016-06-07 v2 数值分析
摘要
我们考虑从 f 的点评估中学习形式为 f(x) = g(Ax) 的多脊函数的问题。我们假设函数 f 定义在 R^d 中的 l_2 球上，g 几乎处处二次连续可微，且 A \in R^{k \times d} 是一个秩为 k 的矩阵，其中 k << d。我们提出了一种随机的、多项式复杂度的采样方案来估计此类函数。我们的理论发展利用了低秩矩阵恢复的最新技术，使我们能够推导出函数 f 的多项式时间估计量以及一致逼近保证。我们证明了该方案也可用于学习形式为 f(x) = \sum_{i=1}^{k} g_i(a_i^T x) 的函数，前提是 f 在原点附近的邻域内满足某些平滑条件。我们还表征了该方案的噪声鲁棒性。最后，我们提供了数值示例以说明理论界限的实际效果。
引用
@article{arxiv.1310.1826,
title = {Learning Non-Parametric Basis Independent Models from Point Queries via Low-Rank Methods},
author = {Hemant Tyagi and Volkan Cevher},
journal= {arXiv preprint arXiv:1310.1826},
year = {2016}
}
备注
27 pages, minor corrections in the proof of Proposition 2 (appendix H), modified the statement of Proposition 2, typos corrected in appendix E