中文

好身体即所需:通过智能体架构搜索避免灾难性干扰

神经与进化计算 2021-08-24 v2 机器人学

摘要

在机器人领域,灾难性干扰持续制约着跨环境的策略训练。迄今为止对抗灾难性干扰的努力集中于新颖的神经网络架构或训练方法,近期重点在于具有良好初始设置以促进新环境训练的策略。然而,这些方法均未考虑机器人物理架构如何像神经架构的选择那样阻碍或促进灾难性干扰。在先前工作中,我们展示了机器人物理结构(具体而言,传感器布置)的某些方面可通过增加给定物理结构下最优策略的比例来促进策略学习。此处我们首次表明,这一灾难性干扰的代理度量在多种搜索方法中与样本效率相关,证明了有利的损失地形可由正确选择的物理结构诱导产生。我们展示了此类结构可通过协同优化——同时优化机器人结构与控制策略——找到,从而产生抗灾难性干扰的机器人结构与策略,且这比单独优化控制策略更高效。最后,我们展示了此类结构在跨环境中表现出传感器稳态,并将此作为某些机器人克服灾难性干扰的机制引入。

关键词

引用

@article{arxiv.2108.08398,
  title  = {A good body is all you need: avoiding catastrophic interference via agent architecture search},
  author = {Joshua Powers and Ryan Grindle and Lapo Frati and Josh Bongard},
  journal= {arXiv preprint arXiv:2108.08398},
  year   = {2021}
}

备注

arXiv admin note: text overlap with arXiv:1910.07487