面向小规模低资源语言医学转录的精调 LLM 模型评估
计算与语言
2026-03-27 v1 人工智能
机器学习
摘要
临床文档是患者安全、诊断和护理连续性的关键因素。EHR 的行政负担是医生倦怠的重要因素。这一问题在低资源语言中尤为突出，包括芬兰语。本研究旨在调查领域对齐的自然语言处理（NLP）大语言模型在芬兰语医学转录中的有效性，通过在 Metropolia 应用科学大学的学生模拟临床对话语料库上对 LLaMA 3.1-8B 进行 fine-tuning。医学转录的 fine-tuning 使用受控的预处理和优化方法。通过七分交叉验证评估了 fine-tuning 后的 LLaMA 3.1-8B 模型。fine-tuning 模型的评估指标为 BLEU = 0.1214，ROUGE-L = 0.4982，BERTScore F1 = 0.8230。结果显示模型在 n-gram 重合度较低，但在语义相似性方面表现强劲。本研究表明，fine-tuning 可是翻译芬兰语医学语境的有效方法，支持在芬兰语临床文档中对 privacy-oriented 领域特定大语言模型进行 fine-tuning 的可行性。同时本研究为后续工作提供了方向。
引用
@article{arxiv.2603.24772,
title = {Evaluating Fine-Tuned LLM Model For Medical Transcription With Small Low-Resource Languages Validated Dataset},
author = {Mohammed Nowshad Ruhani Chowdhury and Mohammed Nowaz Rabbani Chowdhury and Sakari Lukkarinen},
journal= {arXiv preprint arXiv:2603.24772},
year = {2026}
}
备注
9 pages, 3 figures, 2 tables