解构扩散策略:动作记忆与简单查找表替代方案
机器人学
2025-05-12 v1
摘要
扩散策略在复杂高维机器人操控任务中展现出惊人的灵活性和鲁棒性,同时能够从少量演示中进行训练。然而,这一性能的原因仍是谜团。本文我们提出了一个令人惊讶的假设:扩散策略本质上记忆了一个动作查找表——这有益于。我们认为,扩散策略在运行时在潜在空间中找到与测试图像最接近的训练图像,并回想关联的训练动作序列,提供了无需动作泛化的响应性。这在稀疏数据情境下有效,因为数据密度不足以让模型学习动作泛化。我们通过系统性经验论据支持了这一假设。即使在野外离分布(OOD)的猫和狗图像上,扩散策略仍会输出来自训练数据的动作序列。有了这一洞察,我们提出了一种简单策略——动作查找表(ALT),作为扩散模型的轻量级替代方案。我们的ALT策略使用对比图像编码器作为哈希函数来索引最接近的相应训练动作序列,显式执行扩散策略隐式学习的计算。我们在实证上表明,对于相对较小的数据集,ALT在性能上与扩散模型相当,但仅需推理时间的0.0034,仅需内存占用的0.0085,使得在资源受限的机器人上实现更快的闭环推理。我们还训练ALT策略为运行时图像在潜在空间中距离训练图像太远时给出明确的 OOD 信号,从而提供一种简单但有效的运行时监控器。更多信息请参见:https://stanfordmsl.github.io/alt/。
引用
@article{arxiv.2505.05787,
title = {Demystifying Diffusion Policies: Action Memorization and Simple Lookup Table Alternatives},
author = {Chengyang He and Xu Liu and Gadiel Sznaier Camps and Guillaume Sartoretti and Mac Schwager},
journal= {arXiv preprint arXiv:2505.05787},
year = {2025}
}