利用大语言模型自动化科学文献的类别与趋势分析：以眼科学为例
计算与语言
2023-09-01 v1 人工智能
摘要
目的：本文提出一种利用大语言模型（LLM）力量的文章分类自动化方法。主要关注领域为眼科学，但该模型可扩展至其他领域。方法：我们基于自然语言处理（NLP）技术（包括先进 LLM）开发了模型，以处理和分析科学论文的文本内容。具体而言，我们采用了零样本学习（ZSL）LLM 模型，并与双向自回归 Transformer（BART）及其变体、来自 Transformer 的双向编码器表示（BERT）及其变体如 distilBERT、SciBERT、PubmedBERT、BioBERT 进行比较。结果：分类结果显示了 LLM 在无需人工干预下对大量眼科学论文分类的有效性。结果：为评估 LLM，我们编制了包含 1000 篇眼疾相关文章的数据集（RenD），由六位专家标注为 15 个不同类别。基于 RenD 数据集，模型达到平均准确率 0.86 与平均 F1 0.85。结论：所提框架在准确率与效率上均取得显著提升。其在眼科学领域的应用展示了其在其他领域知识组织与检索的潜力。我们进行了趋势分析，使研究人员与临床医生能轻松分类与检索相关论文，节省文献综述与信息收集的时间精力，并识别不同学科中的新兴科学趋势。此外，模型向其他科学领域的可扩展性拓宽了其在促进跨学科学研究与趋势分析方面的影响。
引用
@article{arxiv.2308.16688,
title = {Using Large Language Models to Automate Category and Trend Analysis of Scientific Articles: An Application in Ophthalmology},
author = {Hina Raja and Asim Munawar and Mohammad Delsoz and Mohammad Elahi and Yeganeh Madadi and Amr Hassan and Hashem Abu Serhan and Onur Inam and Luis Hermandez and Sang Tran and Wuqas Munir and Alaa Abd-Alrazaq and Hao Chen and SiamakYousefi},
journal= {arXiv preprint arXiv:2308.16688},
year = {2023}
}