中文

机器人学中的神经缩放定律

机器人学 2025-01-28 v2

摘要

神经缩放定律推动了机器学习领域的重大进展,尤其是在语言建模和计算机视觉等领域。然而,尽管基础模型在机器人学中的应用日益广泛,但该领域内神经缩放定律的探索仍相对不足。本文是首次系统量化机器人基础模型(RFMs)和大语言模型(LLMs)在机器人任务中神经缩放定律的综合性研究。通过对327篇研究论文的元分析,我们探究了数据规模、模型规模和计算资源如何影响一系列多样化机器人任务的下游性能。与先前缩放定律研究一致,我们的结果表明,机器人模型的性能随资源增加而提升,遵循幂律关系。令人鼓舞的是,机器人任务性能的提升速度显著快于语言任务。这表明,尽管当前下游机器人任务的性能通常处于中等至较差水平,但增加数据和计算量很可能在未来显著提升性能。同样与先前缩放定律研究一致,我们还观察到随着模型规模扩大,新的机器人能力开始涌现。

关键词

引用

@article{arxiv.2405.14005,
  title  = {Neural Scaling Laws in Robotics},
  author = {Sebastian Sartor and Neil Thompson},
  journal= {arXiv preprint arXiv:2405.14005},
  year   = {2025}
}