中文

算子型小波在表示稀疏 AR(1) 过程中的最优性

信息论 2013-12-05 v1 math.IT

摘要

众所周知,高斯一阶自回归 (AR(1)) 过程的 Karhunen-Lo\`{e}ve 变换 (KLT) 会产生正弦基函数。同样的正弦基也出现在独立成分分析 (ICA) 中,实际上对应于样本完全独立的过程。在本文中,我们放宽高斯假设,研究正交变换如何解耦对称α\alpha稳定 (Sα\alphaS) AR(1) 过程。高斯情形不具有稀疏性,对应于α=2\alpha=2,而0<α<20<\alpha<2则产生具有稀疏线性预测误差的过程。在存在稀疏性的情况下,我们证明了算子型小波基的表现优于正弦基。此外,我们观察到,对于增量非常稀疏的过程 (0<α10<\alpha\leq 1),算子型小波基与通过数值优化获得的 ICA 解无法区分。我们考虑了两个独立性判据。第一个是原始信号的联合概率密度函数 (pdf) 与变换域中边缘分布乘积之间的 Kullback-Leibler 散度。第二个是基于加性高斯噪声中均方估计误差的 Stein 公式,衡量原始信号的联合 pdf 与变换域中边缘分布乘积之间的散度。我们的框架提供了一个统一的视角,涵盖了离散余弦变换(已知在α=2\alpha=2时渐近最优)和 Haar 型小波(我们在0<α10<\alpha\leq1时对其实现了最优性)。

关键词

引用

@article{arxiv.1312.1147,
  title  = {Optimality of Operator-Like Wavelets for Representing Sparse AR(1) Processes},
  author = {Pedram Pad and Michael Unser},
  journal= {arXiv preprint arXiv:1312.1147},
  year   = {2013}
}

备注

10 pages, 8 figures