面向上下文医学问答的指令调优与链条思维提示
计算与语言
2025-11-12 v1
摘要
大型语言模型（LLMs）在医学问答（MedQA）中显示出巨大的潜力，但由于领域特定的复杂性和有限的监督，使其适应生物医学推理仍富有挑战性。本文我们研究提示设计和轻量级微调如何影响开源LLMs在PubMedQA（多选生物医学问题基准）上的性能。我们聚焦两种广泛使用的提示策略——标准指令提示和链条思维（CoT）提示——并应用QLoRA进行参数高效指令调优。在多个模型家族和规模下，我们的实验表明，仅凭CoT提示即可在零样本设置中提升推理能力，而指令调优显著提升准确率。然而，针对CoT提示进行微调并不总是能提升性能，甚至可能对某些较大模型造成性能下降。这些发现表明，推理感知提示是有用的，但其效益取决于模型和规模。本研究为在医学问答应用中结合提示工程与高效微调提供了实用见解。
引用
@article{arxiv.2506.12182,
title = {Instruction Tuning and CoT Prompting for Contextual Medical QA with LLMs},
author = {Chenqian Le and Ziheng Gong and Chihang Wang and Haowei Ni and Panfeng Li and Xupeng Chen},
journal= {arXiv preprint arXiv:2506.12182},
year = {2025}
}
备注
Accepted by 2025 International Conference on Artificial Intelligence, Human-Computer Interaction and Natural Language Processing