瓶颈问题的推广
信息论
2018-11-16 v3 机器学习
math.IT
摘要
给定一对随机变量 和两个凸函数 与 ,我们引入两个瓶颈泛函,作为二维凸集的下边界和上边界,该凸集由所有满足马尔可夫条件 的离散随机变量 所对应的点对 组成,其中 表示 -信息。应用 Witsenhausen 和 Wyner 的方法,我们给出了针对 、 以及离散 计算该集合边界的算法。在二进制对称情形下,当 (i) ,(ii) ,以及 (iii) 和 均为 范数函数且 时,我们完整刻画了该集合。进而我们论证:(i) 中的上、下边界分别对应 Gerber 太太引理及其逆引理(我们称之为 Gerber 先生引理);(ii) 中对应信息瓶颈与隐私漏斗的估计理论变体;(iii) 中对应 Arimoto 信息瓶颈与隐私漏斗。
引用
@article{arxiv.1802.05861,
title = {Generalizing Bottleneck Problems},
author = {Hsiang Hsu and Shahab Asoodeh and Salman Salamatian and Flavio P. Calmon},
journal= {arXiv preprint arXiv:1802.05861},
year = {2018}
}
备注
IEEE International Symposium on Information Theory (ISIT), 2018