CourseGPT-zh：基于知识蒸馏集成提示优化的教育大语言模型
计算与语言
2024-05-09 v1
摘要
大型语言模型（LLM）在自然语言处理任务中展现了惊人的能力，推动了其在专业领域的应用。然而，受限于闭源 LLM 的 API 访问权限以及难以获取大量高质量数据集，教育领域的大语言模型开发面临诸多挑战。鉴于此，本文提出 CourseGPT-zh，一种面向课程的教育 LLM，支持定制化和低成本部署。为满足课程专用语料的完整性和多样性，我们设计了集成提示优化的高质量问答语料蒸馈框架，有效挖掘教材知识并提升其多样性。此外，考虑到 LLM 回复需与用户需求一致，本文引入一种基于 LLM 评判器的离散提示优化方法。该框架利用 LLM 对错误反馈和模式的反思与利用能力，生成既满足用户需求与偏好，又节省响应长度的提示。最后，我们基于开源 LLM 采用参数高效微调获得 CourseGPT-zh。实验结果表明，离散提示优化框架显著提升了 ChatGPT 的响应质量，CourseGPT-zh 在专业知识问答方面展现出强大的专业能力，远超同类开源模型。
引用
@article{arxiv.2405.04781,
title = {CourseGPT-zh: an Educational Large Language Model Based on Knowledge Distillation Incorporating Prompt Optimization},
author = {Zheyan Qu and Lu Yin and Zitong Yu and Wenbo Wang and Xing zhang},
journal= {arXiv preprint arXiv:2405.04781},
year = {2024}
}