少思考,精标注:面向电信领域大语言模型微调的多阶段领域锚定合成数据生成
计算与语言
2026-02-02 v2 人工智能
信息论
网络与互联网体系结构
math.IT
摘要
大语言模型(LLM)的成功在很大程度上依赖于大规模、高质量的指令遵循和强化学习数据集。然而,通过人工标注生成此类数据极为耗时,尤其对于电信网络故障排除等特定领域任务,其准确响应需要深厚的技术专长和上下文理解。在本文中,我们提出了一种完全自动化、检索增强的流程,用于生成基于结构化领域知识的合成问答(QA)对。我们的多阶段框架集成了一个检索器、一个基础生成器和一个精炼模型,利用从领域特定知识图谱中检索到的文档来合成和增强QA对。为确保数据质量,我们采用定制的基于RAGAS的评分来过滤低质量样本,从而生成适用于强化微调(RFT)的高质量数据集。我们在一个专注于无线接入网(RAN)故障排除的真实电信场景中展示了我们的方法。由此产生的流程无需人工干预即可生成复杂、上下文丰富的故障排除解决方案计划。这项工作为在专业领域构建指令和强化学习数据集提供了一种可扩展的解决方案,在保持高技术保真度的同时,显著减少了对人工标注的依赖。
引用
@article{arxiv.2509.25736,
title = {Think Less, Label Better: Multi-Stage Domain-Grounded Synthetic Data Generation for Fine-Tuning Large Language Models in Telecommunications},
author = {Chenhua Shi and Gregor Macdonald and Bhavika Jalli and Wanlu Lei and John Zou and Mridul Jain and Joji Philip},
journal= {arXiv preprint arXiv:2509.25736},
year = {2026}
}
备注
6 pages, 6 figures, 5 tables, IEEE ICC 2026