关于简单混合分布间 Jensen-Shannon 散度的一个短札记

本短札记给出了关于两个离散混合分布 $p_1$ 与 $p_2$ 之间对称 Jensen-Shannon 散度的结果。具体地，对 $i=1,2$，$p_i$ 是公共分布 $q$ 与分布 $\tilde{p}_i$ 以混合比例 $\lambda_i$ 的混合。一般地，$\tilde{p}_1\neq \tilde{p}_2$ 且 $\lambda_1\neq\lambda_2$。我们借助实验与理论，洞察了当混合比例或 $\tilde{p}_1$ 与 $\tilde{p}_2$ 之间的散度变化时 $p_1$ 与 $p_2$ 之间对称 Jensen-Shannon 散度的行为。我们还对分布 $\tilde{p}_1$、$\tilde{p}_2$ 与 $q$ 的支撑不重合的情形提供了见解。