中文

从高维点查询中学习一般稀疏加性模型

数值分析 2019-05-02 v3

摘要

我们考虑在立方体 [1,1]dRd[-1,1]^d\subset {\mathbb R}^d 上学习 dd 元函数 ff 的问题,其中假设算法可在该域内黑箱访问 ff 的样本。记 Sr([d]r);r=1,,r0{\mathcal S}_r \subset {[d] \choose r}; r=1,\dots,r_0 为由坐标变量间未知 rr 元交互构成的集合。我们随后聚焦于 ff 具有加性结构的情形,即它可表示为 f=jS1ϕj+jS2ϕj++jSr0ϕj,f = \sum_{{\mathbf j} \in {\mathcal S}_1} \phi_{{\mathbf j}} + \sum_{{\mathbf j} \in {\mathcal S}_2} \phi_{{\mathbf j}} + \dots + \sum_{{\mathbf j} \in {\mathcal S}_{r_0}} \phi_{{\mathbf j}}, 其中每个 ϕj\phi_{{\mathbf j}}jSr{\mathbf j} \in {\cal S}_r 对于 1rr01 \leq r \leq r_0 至多为 rr 元函数。我们推导出在精心构造的点集上查询 ff 并以高概率精确恢复每个 Sr{\mathcal S}_r 的随机化算法。与先前工作相反,我们的分析不依赖于用有限阶差分对导数作数值近似。

关键词

引用

@article{arxiv.1801.08499,
  title  = {Learning general sparse additive models from point queries in high dimensions},
  author = {Hemant Tyagi and Jan Vybiral},
  journal= {arXiv preprint arXiv:1801.08499},
  year   = {2019}
}