中文

针对p次根链接泊松回归的数据子采样

机器学习 2025-03-20 v1 数据结构与算法 机器学习

摘要

我们开发并分析了针对泊松回归的数据子采样技术,泊松回归是计数数据 yNy\in\mathbb{N} 的标准模型。特别地,我们考虑了具有ID和平方根链接函数的泊松广义线性模型。我们考虑了核心集方法,即小的加权子集,它们能以 1±ε1\pm\varepsilon 的因子近似泊松回归的损失函数。我们证明了针对泊松回归的核心集存在 Ω(n)\Omega(n) 的下界,并且该下界在忽略对数因子的情况下对任意数据缩减技术都成立。通过引入一个新的复杂度参数和一个域偏移方法,我们证明了当复杂度参数较小时,存在具有 1±ε1\pm\varepsilon 近似保证的次线性核心集。特别地,对输入点数量的依赖性可以降低到多对数级别。我们表明,对其他输入参数的依赖性也可以被次线性地界定,尽管不总是对数级别的。特别地,我们证明了平方根链接函数允许 O(log(ymax))O(\log(y_{\max})) 的依赖性,其中 ymaxy_{\max} 表示数据中出现的最大计数,而ID链接函数则需要 Θ(ymax/log(ymax))\Theta(\sqrt{y_{\max}/\log(y_{\max})}) 的依赖性。作为证明ID链接函数情况下关于 ymaxy_{\max} 的界紧致性的一个辅助结果,我们展示了Lambert W0W_0 函数主分支的一个改进界,这可能具有独立的研究意义。我们进一步展示了当考虑 p3p\geq 3pp 次根链接函数时我们分析的局限性,这表明即使这种推广是可能的,也需要其他的分析或计算方法。

关键词

引用

@article{arxiv.2410.22872,
  title  = {Data subsampling for Poisson regression with pth-root-link},
  author = {Han Cheng Lie and Alexander Munteanu},
  journal= {arXiv preprint arXiv:2410.22872},
  year   = {2025}
}

备注

NeurIPS 2024