中文

通过嵌入示范数据集搜索实现行为克隆

人工智能 2023-06-16 v1

摘要

行为克隆利用示范数据集来学习行为策略。为克服各种学习与策略适配问题,我们提出使用潜空间来索引示范数据集,即时获取相似的相关经验,并从这些情境中复制行为。来自所选相似情境的动作可由智能体执行,直至智能体当前情境与所选经验的表征在潜空间中发散。因此,我们将控制问题表述为对专家示范数据集的搜索问题。我们在 BASALT MineRL 数据集上以 Video PreTraining 模型的潜表征测试了我们的方法。我们将我们的模型与现有最优(SOTA)的 Minecraft 智能体进行比较。我们的方法能有效恢复有意义的示范,并在多种情境中展现 Minecraft 环境中智能体类人的行为。实验结果表明,我们基于搜索的方法性能可与训练模型相媲美,同时可通过更换示范样本实现零样本任务适配。

关键词

引用

@article{arxiv.2306.09082,
  title  = {Behavioral Cloning via Search in Embedded Demonstration Dataset},
  author = {Federico Malato and Florian Leopold and Ville Hautamaki and Andrew Melnik},
  journal= {arXiv preprint arXiv:2306.09082},
  year   = {2023}
}