Rényi 散度的变分刻画
信息论
2017-01-27 v1 math.IT
概率论
统计理论
统计理论
摘要
Atar、Chowdhary 与 Dupuis 近期给出了用 Rényi 散度表示有界可测函数指数积分的变分公式。我们发展了可测空间上两概率分布之间 Rényi 散度用相对熵表示的变分刻画。当其与用相对熵表示有界可测函数指数积分的基本变分公式结合时，便作为推论给出了 Atar、Chowdhary 与 Dupuis 的变分公式。我们还发展了两平稳有限状态马尔可夫链之间 Rényi 散度率用相对熵率表示的类似变分刻画。当其与 Varadhan 用相对熵对非负元素方阵谱半径的变分刻画结合时，便给出了 Atar、Chowdary 与 Dupuis 变分公式在有限状态马尔可夫链框架中的类比。
引用
@article{arxiv.1701.07796,
title = {A Variational Characterization of R\'enyi Divergences},
author = {Venkat Anantharam},
journal= {arXiv preprint arXiv:1701.07796},
year = {2017}
}
备注
EECS Department, University of California, Berkeley CA 94720