SPARTAN：稀疏Transformer世界模型，聚焦关键要素
机器学习
2025-12-08 v3 机器学习
摘要
以结构化方式捕捉实体之间的交互在能够灵活适应环境变化的世界模型中扮演着核心角色。近期工作强调了显式表示交互结构带来的好处，并将该问题形式化为发现局部因果结构。在本工作中，我们证明在复杂环境中可靠地捕捉这些关系仍然具有挑战性。为此，我们假设稀疏性是发现此类局部结构的关键要素。为此，我们提出了 SPARse TrANsformer World model（SPARTAN），一种基于Transformer的世界模型，能够学习场景中实体之间的上下文依赖交互结构。通过对对象因子化标记之间的注意力模式施加稀疏性正则化，SPARTAN 学习了稀疏的、上下文依赖的交互图，能够准确预测未来对象状态。我们进一步扩展了模型，使其能够适应环境中具有未知目标的稀疏干预。这使得世界模型具有高度可解释性，并能高效适应变化。在经验上，我们在基于观测的环境中评估 SPARTAN 对比当前以对象为中心的世界模型最先进方法，证明我们的模型能够学习准确反映对象间底层交互的局部因果图，在动力学变化方面实现了显著改进的少样本适应能力，以及对干扰物的鲁棒性。
引用
@article{arxiv.2411.06890,
title = {SPARTAN: A Sparse Transformer World Model Attending to What Matters},
author = {Anson Lei and Bernhard Schölkopf and Ingmar Posner},
journal= {arXiv preprint arXiv:2411.06890},
year = {2025}
}