利用动态上下文扩展优化长临床记录自动摘要：NBCE 方法的测试与评估
人工智能
2024-11-15 v2
摘要
对患者临床笔记进行摘要对于减轻文书负担至关重要。目前的人工摘要使医护人员不堪重负。我们提出了一种基于大语言模型（LLM）的自动方法，但长输入会导致 LLM 丢失上下文，降低输出质量，尤其是在小规模模型中。我们使用了一个 7B 参数的模型 open-calm-7b，并结合原生贝叶斯上下文扩展（Native Bayes Context Extend）和重新设计的解码机制，使其一次仅引用一个句子，从而将输入控制在 2048 个标记的上下文窗口内。在 200 个样本上，我们改进后的模型在 ROUGE-L 指标上达到了与 Google 拥有 175B 以上参数的 Gemini 接近的性能，表明该方法以更少资源实现了强性能，提升了自动化电子病历（EMR）摘要的可行性。
引用
@article{arxiv.2411.08586,
title = {Optimizing Automatic Summarization of Long Clinical Records Using Dynamic Context Extension:Testing and Evaluation of the NBCE Method},
author = {Guoqing Zhang and Keita Fukuyama and Kazumasa Kishimoto and Tomohiro Kuroda},
journal= {arXiv preprint arXiv:2411.08586},
year = {2024}
}