使用大语言模型理解电信标准
计算与语言
2024-04-15 v2 人工智能
摘要
第三代合作伙伴计划（3GPP）成功引入了全球移动通信标准。然而，这些标准的数量和复杂性随时间不断增加，从而使得供应商和服务提供商难以获取相关信息。使用生成式人工智能（AI），特别是大语言模型（LLM），可能提供对相关信息的更快速访问。本文评估了最先进的 LLM 作为 3GPP 文档参考问答（QA）助手的能力。我们的贡献有三个方面。首先，我们提供了用于评估 LLM 性能的基准和测量方法。其次，我们对其中一个 LLM 进行了数据预处理和微调，并提供了适用于所有 LLM 的提高响应准确性的指南。第三，我们提供了自己的模型 TeleRoBERTa，其性能与基础 LLM 相当，但参数数量少了一个数量级。结果表明，LLM 可以作为电信技术文档的可信参考工具，因此在从故障排除和维护到网络运营和软件产品开发等多种不同应用中具有潜力。
引用
@article{arxiv.2404.02929,
title = {Using Large Language Models to Understand Telecom Standards},
author = {Athanasios Karapantelakis and Mukesh Thakur and Alexandros Nikou and Farnaz Moradi and Christian Orlog and Fitsum Gaim and Henrik Holm and Doumitrou Daniil Nimara and Vincent Huang},
journal= {arXiv preprint arXiv:2404.02929},
year = {2024}
}
备注
Accepted to ICMLCN 2024, Stockholm, May 2024. Updating typo in authors list