中文

MedINST:生物医学指令的元数据集

计算与语言 2024-10-18 v1

摘要

大型语言模型(LLM)技术在医学分析领域的集成带来了显著的进展,但大规模、多样且标注完整的数据集的稀缺仍是主要挑战。医学数据和任务因格式、规模及其他参数的不同,需进行大量预处理和标准化,以有效用于训练 LLM。为此,我们引入 MedINST,即生物医学指令的元数据集,这是一个新的多领域、多任务指令元数据集。MedINST 包含 133 个生物医学 NLP 任务,超过 700 万训练样本,目前最为全面且完善的生物医学指令数据集。以 MedINST 作为元数据集,我们构建了 MedINST32,一个具有不同任务难度的挑战性基准,用于评估 LLM 的跨任务泛化能力。我们在 MedINST 上微调多个 LLM,并在 MedINST32 上进行评估,展示了增强的跨任务泛化能力。

关键词

引用

@article{arxiv.2410.13458,
  title  = {MedINST: Meta Dataset of Biomedical Instructions},
  author = {Wenhan Han and Meng Fang and Zihan Zhang and Yu Yin and Zirui Song and Ling Chen and Mykola Pechenizkiy and Qingyu Chen},
  journal= {arXiv preprint arXiv:2410.13458},
  year   = {2024}
}