MediaGPT：面向中文媒体的大语言模型
计算与语言
2023-07-27 v2 人工智能
摘要
大语言模型（LLMs）已展现出基于海量数据生成高质量文本与进行预测的卓越能力，媒体领域亦不例外。然而在实际应用中，媒体使用场景与 LLM 通用应用之间的差异日益显著，尤其体现在中文场景。本文考察了媒体领域专用 LLM 相较于通用 LLM 的独特特征，设计了多样化的任务指令类型以满足该领域的特定需求，并构建了贴合媒体领域的专属数据集。在此基础上，我们提出 MediaGPT——一个面向中文媒体领域的领域专用 LLM，由领域数据与专家 SFT 数据训练而成。通过在验证集上开展人类专家评估与强模型评估，本文证明了 MediaGPT 在多项中文媒体领域任务上优于主流模型，并验证了领域数据与领域定义提示类型对于构建有效领域专用 LLM 的重要性。
引用
@article{arxiv.2307.10930,
title = {MediaGPT : A Large Language Model For Chinese Media},
author = {Zhonghao Wang and Zijia Lu and Bo Jin and Haiying Deng},
journal= {arXiv preprint arXiv:2307.10930},
year = {2023}
}