统计流形上概率分布的拉格朗日与哈密顿力学
统计理论
2022-10-04 v2 信息论
高能物理 - 理论
math.IT
最优化与控制
机器学习
统计理论
摘要
我们给出了概率分布黎曼流形上经典力学的 Information-Geometric（信息几何）表述，该流形是一个具有对偶平坦联络的仿射流形。在非参数形式体系中，我们考虑有限样本空间上正概率函数的全集，并借助我们称之为统计丛（Statistical Bundle）的希尔伯特丛结构，给出了统计流形上切空间与余切空间的具体表达。在此设定下，我们利用典范对偶平行传输对计算了一维统计模型的速度与加速度，并定义了丛上拉格朗日与哈密顿力学的连贯形式体系。最后，通过一系列例子，我们展示了该形式体系如何为概率单纯形上的加速自然梯度动力学提供一致框架，为在优化、博弈论与神经网络中的直接应用铺平道路。
引用
@article{arxiv.2009.09431,
title = {Lagrangian and Hamiltonian Mechanics for Probabilities on the Statistical Manifold},
author = {Goffredo Chirco and Luigi Malagò and Giovanni Pistone},
journal= {arXiv preprint arXiv:2009.09431},
year = {2022}
}
备注
39 pages, 5 figures; revised version published on IJGMMP