因果离散时间 LTI 系统的度量熵
动力系统
2022-11-29 v1 信息论
math.IT
摘要
在文献 [1] 中，证明了循环神经网络（RNN）能够以度量熵最优的方式学习离散时间线性时不变（LTI）系统。这是通过将近似 RNN 编码所需的比特数与所考虑的 LTI 系统类的度量熵 [2, 3] 进行比较来实现的。本注记的目的是提供 [2, 3] 中度量熵结果的初等且自洽的证明，在此过程中清理了 [2, 3] 中出现的微小数学问题。这些修正也导致了 [1] 中一个结果常数的修正（见备注 2.5）。
引用
@article{arxiv.2211.15466,
title = {Metric entropy of causal, discrete-time LTI systems},
author = {Clemens Hutter and Thomas Allard and Helmut Bölcskei},
journal= {arXiv preprint arXiv:2211.15466},
year = {2022}
}
备注
[1] arXiv:2105.02556