面向医学文本处理的深度学习：BERT 模型微调与比较研究
计算与语言
2024-10-29 v1 机器学习
摘要
本文提出了一种基于 BERT 模型的医学文献摘要生成方法，以应对当前医学信息爆炸带来的挑战。通过对 BERT 模型进行微调和优化，我们开发了一个高效的摘要生成系统，能够快速从医学文献中提取关键信息并生成连贯、准确的摘要。在实验中，我们比较了多种模型，包括 Seq-Seq、Attention、Transformer 和 BERT，并证明改进后的 BERT 模型在 Rouge 和 Recall 指标上具有显著优势。此外，本研究的结果突出了知识蒸馏技术在进一步提升模型性能方面的潜力。该系统在实际应用中展现出强大的通用性和效率，为医学文献的快速筛选和分析提供了可靠的工具。
引用
@article{arxiv.2410.20792,
title = {Deep Learning for Medical Text Processing: BERT Model Fine-Tuning and Comparative Study},
author = {Jiacheng Hu and Yiru Cang and Guiran Liu and Meiqi Wang and Weijie He and Runyuan Bao},
journal= {arXiv preprint arXiv:2410.20792},
year = {2024}
}