加权更新模型的信息论基础
概率论
2016-02-09 v1
摘要
加权更新推广了贝叶斯更新,允许通过使用正实指数对似然函数和先验分布进行加权来产生有偏信念。我通过证明利用指数加权(并归一化)变换分布会系统性地影响所得分布的信息熵,为该模型提供了严格的基础。对于大于1的权重,所得分布的信息熵小于原始分布,反之亦然。分布的熵衡量了决策者对待潜在观测信息的充分程度,因此该结果为权重提供了一种有用的解释。例如,似然函数上大于1的权重建模了一个将相关观测视为比完美贝叶斯者更具信息量的个体。
引用
@article{arxiv.1602.02391,
title = {An Information-Theoretic Foundation for the Weighted Updating Model},
author = {Jesse Aaron Zinn},
journal= {arXiv preprint arXiv:1602.02391},
year = {2016}
}