基于 Bregman 散度的 EM 算法及其在经典与量子率失真理论中的应用
信息论
2024-09-10 v3 math.IT
量子物理
摘要
我们在 Bregman 散度框架下表述 EM 算法，这是信息几何的一个一般性问题设定。具体而言，我们处理 Bregman 散度系统中指数子族与混合子族之间 Bregman 散度的最小化问题。随后，我们在若干条件下给出了收敛性及其速度。我们将该算法应用于率失真及其变体（包括量子情形），展示了我们一般算法的实用性。事实上，现有的 Arimoto-Blahut 算法在率失真理论中的应用，是利用拉格朗日乘子对互信息与代价函数的加权和进行优化。然而，在率失真理论中，需要在代价函数恒定约束下最小化互信息。我们的算法直接求解该最小化问题。此外，我们在经典率失真问题中数值验证了算法的收敛速度。
引用
@article{arxiv.2201.02447,
title = {Bregman divergence based em algorithm and its application to classical and quantum rate distortion theory},
author = {Masahito Hayashi},
journal= {arXiv preprint arXiv:2201.02447},
year = {2024}
}