中文

华佗:以中文医学知识微调 LLaMA 模型

计算与语言 2023-04-17 v1

摘要

大型语言模型(LLM),如 LLaMA 模型,已在各种通用领域的自然语言处理(NLP)任务中展现出有效性。然而,由于回复需要医学专业知识,LLM 在生物医学领域任务中尚未达到最优表现。为应对这一挑战,我们提出了 HuaTuo,一个基于 LLaMA 的模型,其通过生成的问答(QA)实例进行了监督微调。实验结果表明,HuaTuo 生成的回复具备更可靠的医学知识。我们提出的 HuaTuo 模型可在 https://github.com/SCIR-HI/Huatuo-Llama-Med-Chinese 获取。

关键词

引用

@article{arxiv.2304.06975,
  title  = {HuaTuo: Tuning LLaMA Model with Chinese Medical Knowledge},
  author = {Haochun Wang and Chi Liu and Nuwa Xi and Zewen Qiang and Sendong Zhao and Bing Qin and Ting Liu},
  journal= {arXiv preprint arXiv:2304.06975},
  year   = {2023}
}

备注

LLaMA-based Chinese Medical model - HuaTuo. Model, code and training data are available at https://github.com/SCIR-HI/Huatuo-Llama-Med-Chinese