Magical：通过语义不变性和面向非专业人士的适应性生成医学科普语言
计算与语言
2025-10-27 v2
摘要
医学科普语言生成（MLLG）在提高复杂科学内容对更广泛受众的可访问性方面发挥着至关重要的作用。最近的MLLG文献通常采用参数高效微调方法，如低秩适应（LoRA），使用配对的专家-科普语言数据集微调大型语言模型（LLM）。然而，LoRA难以应对多源异构MLLG数据集带来的挑战。具体来说，通过一系列探索性实验，我们揭示了标准LoRA无法满足MLLG任务中语义保真度和多样化科普风格生成的要求。为了解决这些局限性，我们提出了Magical，一种为异构数据场景下的MLLG量身定制的非对称LoRA架构。Magical使用共享矩阵进行抽象摘要，以及多个隔离矩阵进行多样化科普风格生成。为了在科普语言生成过程中保持语义保真度，Magical引入了语义不变性约束，以减轻矩阵上的语义子空间偏移。此外，为了更好地适应多样化的科普风格生成，Magical结合了推荐引导开关，这是一个外部接口，提示LLM在不同矩阵之间切换。在三个真实世界的科普语言生成数据集上的实验结果表明，Magical始终优于基于提示的方法、vanilla LoRA及其近期变体，同时将可训练参数减少了31.66%。我们的代码公开在https://github.com/tianlwang/Magical.git。
引用
@article{arxiv.2508.08730,
title = {Magical: Medical Lay Language Generation via Semantic Invariance and Layperson-tailored Adaptation},
author = {Weibin Liao and Tianlong Wang and Yinghao Zhu and Yasha Wang and Junyi Gao and Liantao Ma},
journal= {arXiv preprint arXiv:2508.08730},
year = {2025}
}
备注
Accepted by NeurIPS 2025