中文

伯努利自回归过程的混合时间与结构推断

机器学习 2016-12-20 v1

摘要

我们引入了一种新颖的多元随机过程,该过程在每个维度上产生伯努利输出,可能形式化各种图结构中的二元交互,并可用于建模观点动力学、流行病、金融和生物时间序列数据等。我们称之为伯努利自回归过程(BAR)。BAR过程对一个具有自回归动力学的pp个标量伯努利过程的离散时间向量随机序列进行建模,并对应于一个特定的马尔可夫链。自回归动力学的好处在于,可以用最多pdpd个有效参数(对于某个dpd\ll p)或分别用维度为p×p2p\times p^2p×pp\times p的两个稀疏矩阵来描述一个2p×2p2^p\times 2^p的转移矩阵,从而参数化转移过程。此外,我们通过证明混合时间为O(logp)O(\log p),表明BAR过程混合迅速。前述混合时间界中的隐藏常数显式地依赖于链参数的值,并隐式地依赖于对应图中节点的最大允许入度。对于一个具有pp个节点的网络,其中每个节点的入度至多为dd,并对应于一个由BAR生成的标量伯努利过程,我们提供了一个贪心算法,该算法能够以与BAR过程混合时间成正比的样本复杂度高效地学习底层有向图的结构。所提算法的样本复杂度几乎是阶最优的,因为它仅与信息论下界相差一个logp\log p因子。我们展示了仿真结果,说明了我们的算法在多种设置下的性能,包括一个生物信号网络模型。

关键词

引用

@article{arxiv.1612.06061,
  title  = {Mixing Times and Structural Inference for Bernoulli Autoregressive Processes},
  author = {Dimitrios Katselis and Carolyn L. Beck and R. Srikant},
  journal= {arXiv preprint arXiv:1612.06061},
  year   = {2016}
}