Sci-LoRA：用于跨域 lay 释义的科学 LoRA 混合模型

Lay释义旨在使没有技术背景的受众能够理解科学信息。然而，大多数现有研究仅关注单个领域，如生物医学。随着跨学科研究的兴起，越来越需要理解横跨多个技术领域的知识。为此，我们提出了Sci-LoRA，一个利用在多个科学领域微调的LoRA混合模型。具体而言，Sci-LoRA动态生成并应用每个LoRA的权重，使其能够根据输入文本调整不同领域的影响，而无需明确的领域标签。在数据和模型层面集成信息以平衡领域特定知识和跨各种领域的泛化能力方面，Sci-LoRA的动态融合增强了其在各种领域的适应性和性能。在12个领域上测试5个公开数据集的实验结果表明，Sci-LoRA显著优于最先进的大型语言模型，并在跨域 lay 释义中显示出灵活的泛化和适应性。