微调语言模型作为空间系统控制器
机器学习
2025-01-29 v1 系统与控制
系统与控制
摘要
大型语言模型，或基础模型，是经过预训练的 Transformer，能够自回归地连贯补全句子。在本文中，我们展示了 LLM 在经过一些称为微调的额外训练后，可以控制简化的空间系统。我们考察了相对较小的语言模型，参数量在 70 亿到 130 亿之间。我们聚焦于四个问题：三维弹簧玩具问题、低推力轨道转移、低推力地月空间控制以及动力下降制导。微调后的 LLM 能够通过生成足够精确的输出（即具有多达 10 位有效数字的多维向量）来控制系统。我们表明，对于若干问题，执行微调所需的数据量小于传统深度神经网络通常所需的数据量，并且微调后的 LLM 在训练数据集之外具有良好的泛化能力。此外，同一个 LLM 可以使用来自不同问题的数据进行微调，与针对单一应用训练的 LLM 相比，性能仅有轻微下降。本工作旨在作为开发通用空间系统控制器的第一步。
引用
@article{arxiv.2501.16588,
title = {Fine-Tuned Language Models as Space Systems Controllers},
author = {Enrico M. Zucchelli and Di Wu and Julia Briden and Christian Hofmann and Victor Rodriguez-Fernandez and Richard Linares},
journal= {arXiv preprint arXiv:2501.16588},
year = {2025}
}