论通用预测与贝叶斯确证
统计理论
2008-06-26 v1 信息论
机器学习
math.IT
机器学习
统计理论
摘要
贝叶斯框架是归纳推理中研究充分且成功的框架,涵盖假设检验与确证、参数估计、序列预测、分类及回归。然而,选择模型类与先验的标准统计指南并不总是可用或会失效,特别是在复杂情境中。Solomonoff 通过为模型类与先验提供严格、唯一、形式化且通用的选择,完善了贝叶斯框架。我们广泛讨论了通用(非独立同分布)序列预测在何种意义上解决了传统贝叶斯序列预测的各种(哲学)问题。我们表明 Solomonoff 模型具备诸多理想性质:强总界与弱瞬时界;且与大多数经典连续先验密度不同,不存在零后验概率问题,即能够确证通用假设,具有重参数化与重分组不变性,并避免了旧证据与更新问题。它甚至在不计算环境中表现良好(实际上更好)。
引用
@article{arxiv.0709.1516,
title = {On Universal Prediction and Bayesian Confirmation},
author = {Marcus Hutter},
journal= {arXiv preprint arXiv:0709.1516},
year = {2008}
}
评论
24 pages