线性化潜状态空间中的多步预测用于表征学习
机器学习
2022-09-05 v1 人工智能
摘要
本文推导了一种新方法，作为对 E2C 等 LCE 的推广。该方法通过加入多步预测来发展学习局部线性状态空间的思想，从而允许对曲率进行更显式的控制。我们表明，该方法在无需像 PCC 和 P3C 等其他工作那样进行剧烈模型改动的情况下优于 E2C。我们讨论了 E2C 与所提方法之间的关系并推导了更新方程。我们提供的经验证据表明，考虑多步预测后，我们的方法——ms-E2C——能够在曲率和下一状态可预测性方面学习到好得多的潜状态空间。最后，我们还讨论了在多步预测中遇到的某些稳定性挑战及其缓解方法。
引用
@article{arxiv.2209.01127,
title = {Multi-Step Prediction in Linearized Latent State Spaces for Representation Learning},
author = {A. Tytarenko},
journal= {arXiv preprint arXiv:2209.01127},
year = {2022}
}