用于隐私敏感临床信息提取的自提示小语言模型
计算与语言
2026-05-07 v1 人工智能
摘要
从牙科病程记录中进行临床命名实体识别具有挑战性,因为文档高度非结构化、具有领域特异性且通常涉及隐私敏感信息。我们开发了一个可本地部署的框架,使小语言模型能够自我生成、验证、细化和评估特定于实体的提示,以从牙科记录中提取多种临床实体。使用 1,200 份标注记录,我们通过多提示集成推理评估了候选的开放权重模型,并进一步使用基于 QLoRA 的监督微调和直接偏好优化适配了选定的模型。模型性能差异显著,凸显了进行任务特定评估而非依赖通用基准的必要性。Qwen2.5-14B-Instruct 取得了最强的基线性能。经过 DPO 后,Qwen2.5-14B-Instruct 和 Llama-3.1-8B-Instruct 分别取得了 0.864/0.837 和 0.806/0.797 的 micro/macro F1 分数。这些发现表明,结合轻量级基于偏好的后训练的自动提示优化,可以支持使用本地部署的小语言模型进行可扩展的临床信息提取。
引用
@article{arxiv.2605.04221,
title = {Self-Prompting Small Language Models for Privacy-Sensitive Clinical Information Extraction},
author = {Yao-Shun Chuang and Tushti Mody and Uday Pratap Singh and Shirindokht Shiraz and Chun-Teh Lee and Ryan Brandon and Muhammad F Walji and Xiaoqian Jiang and Bunmi Tokede},
journal= {arXiv preprint arXiv:2605.04221},
year = {2026}
}