面向 LLM 生成标签数据的选择性微调：基于事件表格检测的案例研究
机器学习
2024-08-06 v2 计算与语言
摘要
大型语言模型（LLM）在医疗保健领域的众多任务中展现出显著效能。然而，LLM 通常需要在特定任务上使用专业标注数据进行微调才能获得最佳性能，而专业标注数据获取昂贵且耗时。本研究使用来自 gemini-pro 1.0 的噪声标签，对 PaLM-2 进行参数高效微调（PEFT），用于检测临床试验方案中指定护理计划的事件表格（Schedule-of-Event, SoE）。我们引入过滤机制，以选择高置信度标签，从而降低自动生成标签的噪声。我们表明，使用这些标签微调的 PaLM-2 性能优于 gemini-pro 1.0 及其他 LLM；且其性能接近使用来自非专家标注者获得的标签微调的 PaLM-2。我们的结果表明，利用来自强大模型如 gemini-pro 生成的标签，可通过微调在专业任务中提升 LLM 性能，尤其是在专家标注稀缺、昂贵或耗时的领域。
关键词
引用
@article{arxiv.2405.06093,
title = {Selective Fine-tuning on LLM-labeled Data May Reduce Reliance on Human Annotation: A Case Study Using Schedule-of-Event Table Detection},
author = {Bhawesh Kumar and Jonathan Amar and Eric Yang and Nan Li and Yugang Jia},
journal= {arXiv preprint arXiv:2405.06093},
year = {2024}
}
备注
23 pages. Published in MLHC 2024