无监督无模型表示学习

许多控制与学习问题面临这样一种情况：可用的是高维且高度依赖的数据序列，但向学习者提供的反馈极少或没有，这使得任何推断都相当具有挑战性。为应对这一挑战，我们构建了如下问题：给定来自大（高维）空间 $\mathcal X$ 的一系列观测值 $X_0,\dots,X_n$，寻找一个将 $\mathcal X$ 映射到有限空间 $\mathcal Y$ 的表示函数 $f$，使得序列 $f(X_0),\dots,f(X_n)$ 尽可能多地保留原始时间序列 $X_0,\dots,X_n$ 中的依赖信息。我们表明，对于平稳时间序列，函数 $f$ 可选择为最大化我们称为时间序列信息的某种信息准则的那个函数。我们研究了该函数的一些性质，包括其唯一性以及其经验估计的一致性。最后展示了其对最优控制问题的启示。