积分损失的可混合性:函数型与概率型预测高效在线聚合的关键
机器学习
2025-01-07 v4 机器学习
摘要
本文将带专家建议的在线预测设置推广至函数值预测。在在线博弈的每一步,若干专家预测一个函数,学习器必须将这些函数型预测高效聚合为单一预测。我们改造基本的混合(mixable,即指数凹)损失函数以比较函数型预测,并证明这些改造后函数同样可混合(指数凹)。我们称此现象为积分损失函数的可混合性(指数凹性)。作为主结果的应用,我们证明用于概率预测的各种损失函数可混合(指数凹)。所考虑的损失包括切片连续分级概率得分(Sliced Continuous Ranked Probability Score)、基于能量的距离(Energy-Based Distance)、最优传输代价(Optimal Transport Costs)与切片 Wasserstein-2 距离、Beta-2 与 Kullback-Leibler 散度、特征函数与最大均值差异(Maximum Mean Discrepancies)。
引用
@article{arxiv.1912.07048,
title = {Mixability of Integral Losses: a Key to Efficient Online Aggregation of Functional and Probabilistic Forecasts},
author = {Alexander Korotin and Vladimir V'yugin and Evgeny Burnaev},
journal= {arXiv preprint arXiv:1912.07048},
year = {2025}
}