中文

BEAST:用于模仿学习的 B 样条编码动作序列高效分词器

机器人学 2025-10-27 v3 机器学习

摘要

我们提出 B 样条编码动作序列分词器(BEAST),这是一种新型动作分词器,通过 B 样条将动作序列编码为紧凑的离散或连续 token。与基于向量量化或字节对编码的现有动作分词器不同,BEAST 无需单独训练即可始终生成长度一致的 token,实现通过并行解码的快速动作序列生成。凭借我们的 B 样条公式,BEAST 本身确保在相邻片段之间无缝衔接地生成平滑轨迹。我们将 BEAST 与三种不同的模型架构集成进行了广泛评估:一种使用连续 token 的变分自编码器(VAE)、一种使用离散 token 的解码器-only Transformer,以及 Florence-2——一种采用编码器-解码器架构的预训练视觉语言模型,表明 BEAST 与大型预训练模型兼容且可扩展。我们在三个既定基准测试中进行评估,包括 166 个模拟任务,以及三个不同的机器人设置中共计 8 个实际任务。实验结果表明,BEAST (1) 显著降低了训练和推理计算成本,(2) 持续生成适用于连续控制任务的平滑、高频控制信号,(3) 可靠地以�争姿态的任务成功率与最先进方法相比。

关键词

引用

@article{arxiv.2506.06072,
  title  = {BEAST: Efficient Tokenization of B-Splines Encoded Action Sequences for Imitation Learning},
  author = {Hongyi Zhou and Weiran Liao and Xi Huang and Yucheng Tang and Fabian Otto and Xiaogang Jia and Xinkai Jiang and Simon Hilber and Ge Li and Qian Wang and Ömer Erdinç Yağmurlu and Nils Blank and Moritz Reuss and Rudolf Lioutikov},
  journal= {arXiv preprint arXiv:2506.06072},
  year   = {2025}
}

备注

Accepted by NeurIPS 2025