马尔可夫链的推断：贝叶斯估计、模型比较、熵率与类外建模

马尔可夫链是用于描述时间或空间上一维模式的天然且被广泛理解的工具。我们展示了如何通过将对贝叶斯方法同时应用于参数估计与模型阶数选择，从有限数据推断任意 $k$ 阶马尔可夫链。通过将离散数据的多项模型上的已有结果加以推广，我们利用信息论（类型论）技术将推断与统计力学联系起来。我们建立了贝叶斯证据与配分函数之间的直接关系，从而可以直截了当地计算条件相对熵与信源熵率的期望和方差。最后，我们引入了一种新方法，利用有限数据规模标度与模型阶数比较来推断类外过程的结构。