GPIoT：针对物联网程序合成与开发定制小型语言模型
软件工程
2025-03-04 v1 人工智能
摘要
代码大语言模型（LLM）通过自动生成代码和文档来提高软件开发效率，但在需要领域知识的物联网应用中无法合成专业程序。检索增强生成（RAG）虽可通过获取相关领域知识解决此问题，但需依赖强大的云端LLM（如GPT-4）处理用户需求与检索内容，引发隐私问题，同时受网络不稳定及高额查询成本限制。此外，确保获取内容的正确性与相关性也具挑战性。为此，我们提出GPIoT，通过在物联网专业数据集上微调本地可部署的小型语言模型（SLM），构建面向物联网的程序生成系统。SLM规模较小，可高效本地部署执行，缓解隐私与网络问题。微调后，SLM合成物联网相关程序的能力显著提升。为评估GPIoT的能力，我们构建了IoTBench基准。实验与用户试用表明，GPIoT在生成物联网专业代码方面有效，平均任务准确率提升64.7%，用户满意度显著提高。
引用
@article{arxiv.2503.00686,
title = {GPIoT: Tailoring Small Language Models for IoT Program Synthesis and Development},
author = {Leming Shen and Qiang Yang and Xinyu Huang and Zijing Ma and Yuanqing Zheng},
journal= {arXiv preprint arXiv:2503.00686},
year = {2025}
}