中文

同行评审者是否共享相同的基金项目申请评估标准?

社会与信息网络 2022-01-10 v2

摘要

本研究考察了同行评审的一个基本假设,即同行之间在评估标准上存在共识,这是同行判断可靠性的必要条件。表明不存在共识或存在多个共识的经验证据,可为同行评审中持续观察到的低评分者间信度(即分歧效应)提供解释。为检验这一基本假设,我们调查了瑞士所有人文科学学者对23项基金评审标准的看法。我们采用潜类树模型(latent class tree modelling)来识别学者对标准评分相似的子群体(即潜类),并探究预测类别归属的协变量。我们识别出了两个共识类、两个接近共识类以及一个远离共识类。共识类包含一个核心共识(涉及知识缺口、可行性、严谨性、可理解性与论证,以及申请人的学术能力与经验等十项标准)和一个广泛共识,后者在核心共识基础上增加了八项与贡献相关的标准,如原创性。这些结果为分歧效应提供了可能的解释。此外,结果与保守主义观念一致,即认为在同行评审中原创性研究被低估,而方法论与可行性等其他方面被过度看重。协变量分析表明,从远离共识类到接近共识类再到共识类,年龄与拥有终身教职的比例递增。这表明学者积累的学术经验越多,其对评审标准的理解越符合社会规范。

关键词

引用

@article{arxiv.2106.07386,
  title  = {Do peers share the same criteria for assessing grant applications?},
  author = {Sven E. Hug and Michael Ochsner},
  journal= {arXiv preprint arXiv:2106.07386},
  year   = {2022}
}

备注

v2, revised, accepted for publication