通过模型熵在预测状态表示的谱学习中选择基
机器学习
2016-12-30 v1 机器学习
摘要
预测状态表示（Predictive State Representations, PSRs）是用于对动态系统建模的强大技术，它将状态表示为关于未来可观测事件（测试）的预测向量。在 PSRs 中，基本问题之一是学习底层系统的 PSR 模型。最近，谱方法被成功用于解决这一问题，其将学习问题视为对一种称为 Hankel 矩阵的特殊类型矩阵的子矩阵进行奇异值分解（SVD）的任务。在 Hankel 矩阵的子矩阵行和列足够充分（通常意味着非常多的行和列，在实践中几乎不可行）且矩阵元素可以被准确估计的假设下，已经证明用于学习 PSRs 的谱方法在统计上是一致的，并且学习到的参数可以收敛到真实参数。然而，在实践中，由于计算能力的限制，只能选择有限的行或列集合用于谱学习。虽然不同的列集合通常会导致学习模型的精度不同，但在本文中，我们提出了一种通过采用模型熵的概念来衡量学习模型精度，从而选择列集合的方法，即基选择。展示了实验结果以证明所提方法的有效性。
引用
@article{arxiv.1612.09076,
title = {Selecting Bases in Spectral learning of Predictive State Representations via Model Entropy},
author = {Yunlong Liu and Hexing Zhu},
journal= {arXiv preprint arXiv:1612.09076},
year = {2016}
}
备注
9 papges, 4 figures