中文

可混合性的几何结构

机器学习 2023-02-24 v1

摘要

可混合损失函数在在线场景下专家建议预测问题中具有根本重要性,因为它们刻画了快速学习率。通过从微分几何的视角重新诠释恰当性(properness),我们给出了二元与多类情形下可混合性的一个简单几何刻画:在关于 \ell 可微性的相当一般假设下,一个恰当损失函数 \ellη\eta-可混合的,当且仅当缩放后的损失函数 η\eta \ell 的超预测集 spr(η)\textrm{spr}(\eta \ell) 能在对数损失 log\ell_{\log} 的超预测集 spr(log)\textrm{spr}(\ell_{\log}) 内部自由滑动。我们的方法提供了一种以“无坐标”方式处理某些关于损失函数的概念(如恰当性)的途径,并调和了先前针对二元与多类情形下可混合损失函数所得的结果。

关键词

引用

@article{arxiv.2302.11905,
  title  = {The Geometry of Mixability},
  author = {Armando J. Cabrera Pacheco and Robert C. Williamson},
  journal= {arXiv preprint arXiv:2302.11905},
  year   = {2023}
}

备注

53 pages, 6 figures