中文

MedAdapter:面向医学推理的大语言模型高效测试时适配

计算与语言 2024-10-07 v2 人工智能

摘要

尽管大语言模型(LLM)在生成和推理方面表现出提高的能力,但适应生物医学领域仍然具有挑战性,这是由于其庞大尺寸和企业隐私。在本工作中,我们提出MedAdapter,这是一种用于LLM生物医学应用测试时适配的统一后处理适配器。与此不同的是,通过仅对小型BERT大小的适配器进行微调,MedAdapter有效地适应原始模型以排序由LLM生成的备选解决方案。实验表明,MedAdapter能够有效适应白盒和黑盒LLM在生物医学推理中的表现,分别实现了25.48%和11.31%的平均性能提升,而无需大量计算资源或与第三方共享数据。MedAdapter还在与训练时适配结合时表现出优异性能,凸显其作为现有适配方法的灵活且互补的解决方案。面对在模型性能、计算资源和数据隐私之间取得平衡的挑战,MedAdapter提供了一种高效、隐私保护、成本效益高且透明的解决方案,用于适配生物医学领域的LLM。

关键词

引用

@article{arxiv.2405.03000,
  title  = {MedAdapter: Efficient Test-Time Adaptation of Large Language Models towards Medical Reasoning},
  author = {Wenqi Shi and Ran Xu and Yuchen Zhuang and Yue Yu and Haotian Sun and Hang Wu and Carl Yang and May D. Wang},
  journal= {arXiv preprint arXiv:2405.03000},
  year   = {2024}
}

备注

Accepted in EMNLP 2024 main conference