算子型小波在表示稀疏 AR(1) 过程中的最优性
信息论
2013-12-05 v1 math.IT
摘要
众所周知,高斯一阶自回归 (AR(1)) 过程的 Karhunen-Lo\`{e}ve 变换 (KLT) 会产生正弦基函数。同样的正弦基也出现在独立成分分析 (ICA) 中,实际上对应于样本完全独立的过程。在本文中,我们放宽高斯假设,研究正交变换如何解耦对称稳定 (SS) AR(1) 过程。高斯情形不具有稀疏性,对应于,而则产生具有稀疏线性预测误差的过程。在存在稀疏性的情况下,我们证明了算子型小波基的表现优于正弦基。此外,我们观察到,对于增量非常稀疏的过程 (),算子型小波基与通过数值优化获得的 ICA 解无法区分。我们考虑了两个独立性判据。第一个是原始信号的联合概率密度函数 (pdf) 与变换域中边缘分布乘积之间的 Kullback-Leibler 散度。第二个是基于加性高斯噪声中均方估计误差的 Stein 公式,衡量原始信号的联合 pdf 与变换域中边缘分布乘积之间的散度。我们的框架提供了一个统一的视角,涵盖了离散余弦变换(已知在时渐近最优)和 Haar 型小波(我们在时对其实现了最优性)。
引用
@article{arxiv.1312.1147,
title = {Optimality of Operator-Like Wavelets for Representing Sparse AR(1) Processes},
author = {Pedram Pad and Michael Unser},
journal= {arXiv preprint arXiv:1312.1147},
year = {2013}
}
备注
10 pages, 8 figures