通用度量损失下的可实现贝叶斯一致性

我们研究了在可实现情形下，对一般度量损失进行学习的强普适贝叶斯一致性，扩展了Bousquet等人(2020)和Hanneke等人(2021)在0-1分类以及Attias等人(2024)在实值回归上的经典刻画。给定实例空间$(X,\rho)$，标签空间$(Y,\ell)$（可能具有无界损失），以及假设类$H \subseteq Y^{X}$，我们解决了Tsir Cohen和Kontorovich(2022)中提出的可实现情形的一个开放问题。具体而言，我们确定了假设类$H$在何种情况下存在一种分布自由的学习规则，其风险几乎必然收敛于最优风险（在可实现情形下为零），从而适用于每一个可实现的数据生成分布。我们的主要贡献是以一种组合单调性为特征的锐利刻画：类似于Attias等人(2024)，我们引入无限非递减$(\gamma_k)$-Littlestone树的概念，其中$\gamma_k \to \infty$。这将Littlestone树结构推广到度量损失情形。