蒸馏形态条件超网络以实现高效通用形态控制
机器学习
2024-06-05 v2 机器人学
摘要
学习跨越不同机器人形态的通用策略可以显著提高学习效率，并实现对未见形态的零样本泛化。然而，学习高性能的通用策略需要复杂的架构，如 Transformer (TF)，其内存和计算成本高于简单的多层感知机 (MLP)。为了在推理时同时实现类似 TF 的良好性能和类似 MLP 的高效率，我们提出了 HyperDistill，它包括：(1) 一个生成机器人级 MLP 策略的形态条件超网络 (HN)；(2) 一种对成功训练至关重要的策略蒸馏方法。我们表明，在拥有数百种多样形态的基准 UNIMAL 上，HyperDistill 在训练机器人和未见测试机器人上的表现与通用 TF 教师策略相当，但在不同环境中将模型大小减少了 6-14 倍，计算成本降低了 67-160 倍。我们的分析将 HyperDistill 在推理时的效率优势归因于知识解耦，即解耦任务间和任务内知识的能力，这是一个也可应用于提高其他领域推理效率的通用原则。
引用
@article{arxiv.2402.06570,
title = {Distilling Morphology-Conditioned Hypernetworks for Efficient Universal Morphology Control},
author = {Zheng Xiong and Risto Vuorio and Jacob Beck and Matthieu Zimmer and Kun Shao and Shimon Whiteson},
journal= {arXiv preprint arXiv:2402.06570},
year = {2024}
}
备注
ICML 2024