面向工业控制的预训练大语言模型
人工智能
2023-08-08 v1
摘要
对于工业控制而言,以少量样本与技术负债开发高性能控制器颇具吸引力。基础模型(foundation models)拥有从互联网规模语料预训练获得的丰富先验知识,经适当提示后有望成为良好的控制器。本文以HVAC(供暖、通风与空调)建筑控制为例,考察GPT-4(一线基础模型之一)作为控制器的能力。为控制HVAC,我们将该任务包装为语言博弈:在每一步向GPT-4提供包含任务简述、若干选定示例及当前观测的文本,并执行GPT-4所响应的动作。我们开展系列实验以回答以下问题:1)GPT-4控制HVAC的性能如何?2)GPT-4对HVAC控制不同场景的泛化能力如何?3)文本上下文的不同部分如何影响性能?总体而言,我们发现GPT-4以少量样本与技术负债取得了可与强化学习方法相媲美的性能,表明直接将基础模型应用于工业控制任务的潜力。
引用
@article{arxiv.2308.03028,
title = {Pre-Trained Large Language Models for Industrial Control},
author = {Lei Song and Chuheng Zhang and Li Zhao and Jiang Bian},
journal= {arXiv preprint arXiv:2308.03028},
year = {2023}
}