负采样对对比结构化世界模型的影响
机器学习
2021-07-27 v1
摘要
通过对比学习训练的世界模型是基于自编码器的世界模型（通过重建像素状态进行学习）的一个有力替代方案。本文描述了在对比损失中采样负状态的方式发生微小变化，导致模型性能发生剧烈变化的三种情况。在先前研究的 Atari 数据集中，我们展示了利用时间步相关性可以将对比结构化世界模型的性能提高一倍。我们还收集了完整版本的数据集，以在更多样化的经验集合下研究对比学习。
引用
@article{arxiv.2107.11676,
title = {The Impact of Negative Sampling on Contrastive Structured World Models},
author = {Ondrej Biza and Elise van der Pol and Thomas Kipf},
journal= {arXiv preprint arXiv:2107.11676},
year = {2021}
}
备注
This work appeared at the ICML 2021 Workshop: Self-Supervised Learning for Reasoning and Perception