离散信息散度的邻近算子
信息论
2019-04-09 v2 math.IT
最优化与控制
摘要
信息散度允许评估两个分布彼此接近的程度。在大量可用度量中,凸 -散度(如 Kullback-Leibler、Jeffreys-Kullback、Hellinger、Chi-Square、Renyi 和 I 散度)受到了特别关注。尽管 -散度在凸分析中已被广泛研究,它们在优化问题中的使用通常仍具挑战性。在这方面,现有方法的一个主要缺陷是 -散度的最小化通常是针对其一个变量进行的,可能是在交替优化技术内。在本文中,我们通过推导此类双变量函数的邻近算子(proximity operator)的新闭式表达式克服了这一限制。这使得能够采用标准邻近方法高效求解涉及 -散度的广泛凸优化问题。此外,我们展示了这些邻近算子可用于计算若干具有实际意义函数的上图投影。所提出的邻近工具在数据库管理系统内最优查询执行的背景下进行了数值验证,其中选择性估计问题起着核心作用。实验在小规模到大规模场景下进行。
引用
@article{arxiv.1606.09552,
title = {Proximity Operators of Discrete Information Divergences},
author = {Mireille El Gheche and Giovanni Chierchia and Jean-Christophe Pesquet},
journal= {arXiv preprint arXiv:1606.09552},
year = {2019}
}