复述与对比：微调语言模型以增强对通信与计算机网络的理解
计算与语言
2024-10-22 v2
摘要
大语言模型（LLM）在各个学科中得到广泛研究，最近的重大努力集中在适配 LLM 以理解通信网络的运作方式上。然而，过度依赖提示技术阻碍了这些模型泛化能力的充分开发，且缺乏高效的微调方法妨碍了轻量级 LLM 潜力的充分实现。本文通过引入我们的复述与对比框架来解决这些挑战，这是一个高效的微调框架。RaC 通过在微调过程中引入问题重述和对正确与错误答案的对比分析，增强了 LLM 的理解力和批判性思维能力。实验结果表明，在综合网络问题集上进行测试时，比基础模型的准确率提高了 63.73%。此外，为了高效构建用于 RaC 微调的数据集，我们开发了一种 GPT 辅助的数据挖掘方法，用于生成高质量的问答（QA）对；进一步地，我们引入了 ChoiceBoost，这是一种数据增强技术，可在减少答案顺序偏差的同时扩大数据集规模。除了这些技术创新外，我们还通过开源有价值的研究资源为网络社区做出贡献，包括：1）称为 RaC-Net 的微调网络模型，2）用于微调该模型的训练数据集，3）三个不同难度的测试问题集，作为未来研究的基准，以及 4）与上述资源相关的代码。
引用
@article{arxiv.2409.19007,
title = {Rephrase and Contrast: Fine-Tuning Language Models for Enhanced Understanding of Communication and Computer Networks},
author = {Liujianfu Wang and Yuyang Du and Jingqi Lin and Kexin Chen and Soung Chang Liew},
journal= {arXiv preprint arXiv:2409.19007},
year = {2024}
}