中文

马尔可夫网络中直接稀疏变化学习的支持一致性

机器学习 2016-04-11 v9

摘要

我们研究了学习两个马尔可夫网络 PPQQ 之间稀疏结构变化的问题。近期的一项工作提出通过估计两个马尔可夫网络模型之间的比率来\emph{直接}学习变化,而不是分别为两组数据拟合两个马尔可夫网络再找出其差异。在本文中,我们给出了关于样本量 np,nqn_p, n_q、数据维度 mm 以及变化边数 dd 的\emph{成功变化检测}的充分条件。当使用无界密度比模型时,我们证明了对于 np=Ω(d2logm2+m2)n_p = \Omega(d^2 \log \frac{m^2+m}{2})nq=Ω(np2)n_q = \Omega({n_p^2}),可以一致地识别真实的稀疏变化,且学习误差具有指数衰减的上界。若假设密度比模型有界,则此类样本复杂度可改进为 min(np,nq)=Ω(d2logm2+m2)\min(n_p, n_q) = \Omega(d^2 \log \frac{m^2+m}{2})。我们的理论保证可应用于广泛的离散/连续马尔可夫网络。

关键词

引用

@article{arxiv.1407.0581,
  title  = {Support Consistency of Direct Sparse-Change Learning in Markov Networks},
  author = {Song Liu and Taiji Suzuki and Raissa Relator and Jun Sese and Masashi Sugiyama and Kenji Fukumizu},
  journal= {arXiv preprint arXiv:1407.0581},
  year   = {2016}
}

备注

Rerun experiments, added a new image change detection experiment. Changed some typos in the proof of Proposition 6 and 11