中文

间接依赖关系对“一类非线性循环分离系统的互信息最小化方法”的影响

统计方法学 2009-10-26 v2 统计理论 统计理论

摘要

在最近的一篇论文 [4] 中,Duarte 和 Jutten 针对他们在该文中引入的非线性混合模型,研究了盲源分离 (BSS) 问题。他们提出通过使用信息论工具来解决这个问题,更确切地说,是通过最小化分离结构输出的互信息 (MI)。当将 MI 方法应用于 BSS 问题时,通常需要确定 MI 关于所考虑分离模型参数的导数的解析表达式。在文献中,这些计算迄今为止主要针对线性混合报告。对于非线性混合,由于所考虑量之间的依赖关系,这些计算更为复杂。此外,由于上述依赖关系,BSS 社区在此类计算中常用的符号在用于非线性混合时可能会产生误导。我们声称 [4] 中报告的计算包含一个错误,因为它们没有考虑所有这些依赖关系。因此,在本文中,我们通过展示间接依赖关系对 [4] 中考虑的混合和分离模型应用 MI 方法的影响来解释这一现象。因此,我们引入了基于 MI 的所考虑 BSS 准则的梯度的修正表达式。然后,例如,可以通过众所周知的梯度下降算法使用这个正确的梯度来优化所考虑分离系统的自适应系数。如下所述,这项研究与我们在另一份 arXiv 文档 [3] 中先前报告的分析有一些相似之处。然而,这两项研究涉及不同的问题(混合和分离结构、数学工具:见论文)。

关键词

引用

@article{arxiv.0910.4558,
  title  = {Effect of indirect dependencies on "A mutual information minimization approach for a class of nonlinear recurrent separating systems"},
  author = {Yannick Deville and Alain Deville and Shahram Hosseini},
  journal= {arXiv preprint arXiv:0910.4558},
  year   = {2009}
}

备注

7 pages, 0 figure