中文

基于 ChatGPT 的期刊质量因子:比影响因子更有意义?

数字图书馆 2024-12-09 v2

摘要

目的:期刊影响因子及其他基于引用的指标被广泛用于(并滥用于)辅助选择发表期刊或评估已发表文章的价值。然而,引用率主要反映学术影响力,而非社会影响力、原创性和严谨性等其他质量维度。相比之下,期刊质量因子(JQF)是 ChatGPT 对期刊文章给出的平均质量得分估计。设计:将 JQF 与波兰、挪威和芬兰的期刊排名,以及 25 个(共 27 个)Scopus 宽领域中大型单一学科期刊 2021 年 130,000 篇文章的引用率进行了比较,共涉及 1,300 种期刊。同时也考察了异常值。发现:在 25 个宽领域中的 24 个中,JQF 与期刊排名呈正相关且多为强相关(中位数相关系数:0.641),表明 ChatGPT 具备近乎全学科的期刊质量估计能力。期刊引用率与国家期刊排名也有类似的高相关性,因此 JQF 并非普遍更优的指标。对 JQF 与期刊排名不匹配的期刊进行考察表明,摘要风格可能影响结果,例如是否提及研究的社会背景。局限:不同的期刊排名可能得出不同结论,因为期刊质量缺乏公认定义。启示:结果表明 JQF 在所有领域均可作为合理的期刊质量指标,在期刊质量可作为文章质量可接受代理的(极少数)研究与评价情境中可能有用,特别是对于数学等引用率非质量强指标的领域。独创性:这是首次尝试用大语言模型估算学术期刊价值。

关键词

引用

@article{arxiv.2411.09984,
  title  = {Journal Quality Factors from ChatGPT: More meaningful than Impact Factors?},
  author = {Mike Thelwall and Kayvan Kousha},
  journal= {arXiv preprint arXiv:2411.09984},
  year   = {2024}
}