有向信息的 $k$-NN 估计

Yonathan Murin

有向信息的 $k$-NN 估计

信息论 2017-11-27 v1 math.IT

作者: Yonathan Murin

摘要

本报告研究了基于 $k$ -最近邻( $k$ -NN)估计框架，对两个离散时间、连续幅度随机过程之间的有向信息(DI)度量进行数据驱动估计。给出了两种 $k$ -NN 估计量的详细推导。这两种估计量在用于寻找最近邻的度量上有所不同。为便于估计 DI 度量，假设观测序列为 $m$ 阶(联合)马尔可夫的。由于 $m$ 通常未知，提出了一种同样基于 $k$ -NN 原理的从观测序列估计 $m$ 的数据驱动方法。一项详尽的数值研究表明，所讨论的 $k$ -NN 估计量即使在样本数相对较少(几千个)时也表现良好。此外，表明所讨论的估计量能够准确检测线性以及非线性因果相互作用。

关键词

有向信息 $k$-最近邻估计离散时间连续幅度过程马尔可夫阶估计因果相互作用检测

引用

@article{arxiv.1711.08516,
  title  = {$k$-NN Estimation of Directed Information},
  author = {Yonathan Murin},
  journal= {arXiv preprint arXiv:1711.08516},
  year   = {2017}
}

备注

Technical report

有向信息的 $k$-NN 估计

摘要

关键词

引用

备注

相关论文