指数族中对数损失下与时间范围无关的最优预测
机器学习
2013-05-21 v1 机器学习
摘要
我们研究了对数损失下具有正则参数模型的在线学习问题。Hedayati 和 Bartlett (2012b) 表明，带有 Jeffreys 先验的贝叶斯预测策略与序列归一化最大似然（SNML）相一致，且当且仅当后者具有可交换性时，以及当且仅当最优策略无需预先知道时间范围即可计算时，它们才是最优的。他们提出了哪些族具有可交换的 SNML 策略这一问题。本文完全回答了这个关于一维指数族的开放性问题。可交换性仅可能发生在三类自然指数族分布中，即高斯分布、Gamma 分布以及阶数为 3/2 的 Tweedie 指数族。
引用
@article{arxiv.1305.4324,
title = {Horizon-Independent Optimal Prediction with Log-Loss in Exponential Families},
author = {Peter Bartlett and Peter Grunwald and Peter Harremoes and Fares Hedayati and Wojciech Kotlowski},
journal= {arXiv preprint arXiv:1305.4324},
year = {2013}
}
备注
23 pages