中文

多面体损失的替代遗憾界

机器学习 2021-10-28 v1 机器学习

摘要

替代风险最小化是监督机器学习中普遍存在的范式,其中通过在数据集上最小化替代损失来求解目标问题。替代遗憾界(亦称超额风险界)是为替代风险最小化证明泛化率的常用工具。尽管针对某些损失函数类(如恰当损失)已发展出替代遗憾界,一般性结果仍相对稀少。我们给出两个一般性结果。第一个为任意多面体(分段线性且凸)替代给出线性替代遗憾界,意味着替代泛化率可直接转化为目标率。第二个表明,对充分非多面体的替代,其遗憾界为平方根,意味着快速的替代泛化率会转化为目标类的缓慢率。综上,这些结果表明多面体替代在许多情形下是最优的。

关键词

引用

@article{arxiv.2110.14031,
  title  = {Surrogate Regret Bounds for Polyhedral Losses},
  author = {Rafael Frongillo and Bo Waggoner},
  journal= {arXiv preprint arXiv:2110.14031},
  year   = {2021}
}

备注

Appears in NeurIPS 2021