贝叶斯网络的平方Hellinger次可加性及其在恒等检验中的应用
机器学习
2016-12-12 v1 信息论
math.IT
概率论
统计理论
机器学习
统计理论
摘要
我们证明了同一有向图 上的两个贝叶斯网络之间的平方Hellinger距离相对于 的邻域是次可加的。即,如果 和 是由同一DAG上两个贝叶斯网络定义的概率分布,我们的不等式表明 和 之间的平方Hellinger距离 以 和 在DAG中每个节点 及其父节点 上的边缘分布的平方Hellinger距离之和 为上界。重要的是,我们的界不涉及条件分布,而是涉及 和 的边缘分布。我们针对更一般的马尔可夫随机场推导了类似的不等式。作为我们不等式的应用,我们表明,区分同一(但可能未知)DAG上的两个贝叶斯网络 和 是满足 还是 可以通过 个样本完成,其中 是DAG的最大入度, 是贝叶斯网络每个变量的定义域。如果 和 定义在可能不同且可能未知的树上,样本复杂度变为 ,其对 的依赖性在对数因子意义上是最优的。最后,如果 和 是 上的乘积分布且 已知,样本复杂度变为 ,这在常数因子意义上是最优的。
引用
@article{arxiv.1612.03164,
title = {Square Hellinger Subadditivity for Bayesian Networks and its Applications to Identity Testing},
author = {Constantinos Daskalakis and Qinxuan Pan},
journal= {arXiv preprint arXiv:1612.03164},
year = {2016}
}