损失函数、公理与同行评审
人工智能
2020-03-03 v2 计算机科学与博弈论
机器学习
摘要
常见的情况是少数评审者拒绝一篇高度新颖的论文,因为他们认为,例如,大量实验比新颖性重要得多,而整个社区本应接纳该论文。更一般地,不同评审者将标准分数映射到最终推荐意见的差异化方式是同行评审中不一致的主要来源。在本文中,我们提出一个受经验风险最小化(ERM)启发的框架,用于学习社区的聚合映射。由此产生的关键挑战是ERM损失函数的设定。我们考虑损失函数类,它是向量上标准损失类的矩阵扩展;此处损失函数的选择等同于选择超参数。为应对我们问题中缺乏真值的情况,我们转而借助计算社会选择来识别超参数和的可取取值。具体而言,我们将刻画为满足三个自然公理性质的这些超参数的唯一选择。最后,我们实现并将我们的方法应用于IJCAI 2017的评审数据。
引用
@article{arxiv.1808.09057,
title = {Loss Functions, Axioms, and Peer Review},
author = {Ritesh Noothigattu and Nihar B. Shah and Ariel D. Procaccia},
journal= {arXiv preprint arXiv:1808.09057},
year = {2020}
}