具有离散-连续激励的 ARMA 过程:超越稀疏性的可压缩性
信息论
2024-06-11 v1 math.IT
摘要
Rényi 信息维度 (RID) 在量化分布中存在奇异性的随机变量的可压缩性方面发挥着核心作用,它涵盖并扩展了稀疏源类别。从宏观角度来看,RID 表示高精度编码随机变量的独立同分布 (i.i.d.) 样本所需的平均比特数。RID 对随机过程有两个主要扩展:信息维度率 (IDR) 和块信息维度 (BID)。此外,最近一种关于随机过程可压缩性的方法围绕 -可达压缩率的概念展开,该方法将随机过程视为有限维随机向量的极限点,并将压缩感知工具应用于这些随机变量。尽管关于 BID、IDR 和 -可达压缩率之间相互作用的知识有限,且 IDR 和 BID 本身的值仅对非常特定类型的过程已知,即独立同分布序列(即离散域白噪声)和移动平均 (MA) 过程。本文一般性地研究了离散时间自回归移动平均 (ARMA) 过程的 IDR 和 BID,以及当激励噪声具有离散-连续测度时它们与 -可达压缩率的关系。具体而言,本文表明此类过程的 RID 和 -可达压缩率等于其激励噪声的 RID 和 -可达压缩率。换言之,此类 ARMA 过程的样本可以被压缩到与其稀疏激励噪声相同的程度,尽管样本本身绝非稀疏。本文的结果可用于评估通常通过 ARMA 过程建模的、具有有限或无限记忆的各类局部相关数据的可压缩性。
引用
@article{arxiv.2406.06349,
title = {ARMA Processes with Discrete-Continuous Excitation: Compressibility Beyond Sparsity},
author = {Mohammad-Amin Charusaie and Stefano Rini and Arash Amini},
journal= {arXiv preprint arXiv:2406.06349},
year = {2024}
}