Snowflake：通过参数冻结将 GNN 扩展至高维连续控制
机器学习
2022-01-04 v3
摘要
近期研究表明，图神经网络 (GNNs) 能够学习到与典型多层感知机 (MLP) 同样有效的运动控制策略，且具有更优的迁移与多任务性能 (Wang et al., 2018; Huang et al., 2020)。迄今为止，结果仅限于在小型智能体上训练，随着传感器与执行器数量增加，GNNs 的性能迅速恶化。在监督学习中使用 GNNs 的一个关键动机是其对大图的适用性，但这一优势尚未在运动控制中得以实现。我们指出了导致这种不良扩展性的一种常见 GNN 架构的弱点：网络中用于编码、解码和传递消息的 MLP 存在过拟合。为应对此问题，我们提出 Snowflake，一种面向高维连续控制的 GNN 训练方法，其冻结网络中受过拟合影响的部分参数。Snowflake 显著提升了 GNNs 在大型智能体运动控制上的性能，现已与 MLPs 性能相当，且具备更优的迁移特性。
引用
@article{arxiv.2103.01009,
title = {Snowflake: Scaling GNNs to High-Dimensional Continuous Control via Parameter Freezing},
author = {Charlie Blake and Vitaly Kurin and Maximilian Igl and Shimon Whiteson},
journal= {arXiv preprint arXiv:2103.01009},
year = {2022}
}
备注
20 pages, 14 figures, published at NeurIPS 2021