中文

浓度不等式与比率型经验过程的渐近结果

概率论 2016-08-16 v1

摘要

F\mathcal{F} 为带值于 [0,1][0,1] 的可测空间 (S,S)(S,\mathcal{S}) 上的一族可测函数,并设 Pn=n1i=1nδXiP_n=n^{-1}\sum_{i=1}^n\delta_{X_i} 为基于来自 (S,S)(S,\mathcal{S}) 上概率分布 PP 的独立同分布样本 (X1,...,Xn)(X_1,...,X_n) 的经验测度。我们研究如下类型上确界的行为:suprn<σPfδnPnfPfϕ(σPf),\sup_{r_n<\sigma_Pf\leq \delta_n}\frac{|P_nf-Pf|}{\phi(\sigma_Pf)}, 其中 σPfVarP1/2f\sigma_Pf\ge\operatorname {Var}^{1/2}_Pfϕ\phi 为连续、严格递增且满足 ϕ(0)=0\phi(0)=0 的函数。利用 Talagrand 的经验过程浓度不等式,我们建立了此类上确界的浓度不等式,并用它们推导了关于其渐近行为的若干结果,将条件用经验过程的局部化上确界的期望表示。我们还证明了经验过程的 sup-范数期望值关于 σPf\sigma_Pf 的最大值与函数类包络的 L2(P)L_2(P) 范数的新界,该界特别适用于估计局部化上确界。借助此技术,我们将经验过程比率型上确界的多数已知结果推广到函数类,包括 Alexander 关于集合的 VC 类的某些结果。我们还考虑了这些结果在非参数统计与学习理论若干重要问题中的应用(包括经验风险最小化中的一般超额风险界及其对 L2L_2-回归与分类的版本,以及分类中边缘分布的比率型界)。

关键词

引用

@article{arxiv.math/0606788,
  title  = {Concentration inequalities and asymptotic results for ratio type empirical processes},
  author = {Evarist Giné and Vladimir Koltchinskii},
  journal= {arXiv preprint arXiv:math/0606788},
  year   = {2016}
}

备注

Published at http://dx.doi.org/10.1214/009117906000000070 in the Annals of Probability (http://www.imstat.org/aop/) by the Institute of Mathematical Statistics (http://www.imstat.org)