Falcon 7b 用于学术文献中的软件提及检测
机器学习
2024-05-15 v1 计算与语言
数字图书馆
摘要
本文旨在通过研究 Falcon-7b 在学术文本中检测和分类软件提及的应用,来解决各学科研究中日益增多的软件工具集成所带来的挑战。具体而言,本研究侧重于解决“学术出版物中软件提及检测”(SOMD)的任务一,该任务涉及从学术文献中识别和分类软件提及。通过全面的实验,本文探索了不同的训练策略,包括双分类器方法、自适应采样和加权损失缩放,以在克服类别不平衡和学术写作复杂句法的困难的同时提高检测精度。研究结果凸显了选择性标注和自适应采样在提升模型性能方面的益处。然而,结果也表明整合多种策略并不一定会带来累积的改进。本研究为大型语言模型在 SOMD 等特定任务中的有效应用提供了见解,强调了采用量身定制的方法以应对学术文本分析所呈现的独特挑战的重要性。
引用
@article{arxiv.2405.08514,
title = {Falcon 7b for Software Mention Detection in Scholarly Documents},
author = {AmeerAli Khan and Qusai Ramadan and Cong Yang and Zeyd Boukhers},
journal= {arXiv preprint arXiv:2405.08514},
year = {2024}
}
备注
Accepted for publication by the first Workshop on Natural Scientific Language Processing and Research Knowledge Graphs - NSLP (@ ESCAI)