我的身体是牢笼:形态学在基于图的异构控制中的作用
机器学习
2021-04-15 v2 机器学习
摘要
多任务强化学习是一种有前景的方法,可获得具有更好性能、泛化能力、数据效率和鲁棒性的模型。大多数现有工作局限于兼容设置,即跨任务的状态和动作空间维度相同。图神经网络(GNN)是解决不兼容环境的一种方法,因为它们可以处理任意大小的图。它们还允许实践者将编码在输入图结构中的偏置注入其中。现有基于图的连续控制工作使用智能体的物理形态来构建输入图,即,将肢体特征编码为节点标签,并在对应肢体物理连接时使用边连接节点。在这项工作中,我们对现有方法提出了一系列消融实验,表明图中编码的形态信息并未改善其性能。基于 GNN 从图结构中提取的任何益处都被其为消息传递带来的困难所抵消的假设,我们还提出了 Amorpheus,一种基于 transformer 的方法。进一步结果表明,虽然 Amorpheus 忽略了 GNN 所编码的形态信息,它仍然大幅优于那些使用形态信息来定义消息传递方案的基于 GNN 的方法。
引用
@article{arxiv.2010.01856,
title = {My Body is a Cage: the Role of Morphology in Graph-Based Incompatible Control},
author = {Vitaly Kurin and Maximilian Igl and Tim Rocktäschel and Wendelin Boehmer and Shimon Whiteson},
journal= {arXiv preprint arXiv:2010.01856},
year = {2021}
}
备注
ICLR 2021 Camera-Ready Version