通过同伴预测进行预测聚合
统计方法学
2022-03-31 v8 人机交互
机器学习
多智能体系统
摘要
众包能够从分布式人群中征集对各种预测任务的预测。如何将所征集的、质量可能参差不齐的预测聚合成准确的最终预测,仍是一个具挑战性却关键的问题。研究发现,在聚合中给予专家预测更大权重可提高聚合预测的准确性。然而,该方法通常需要获取预测者的历史表现数据,而这些数据往往不可用。本文研究在无历史表现数据情况下的预测聚合问题。我们提出使用同伴预测方法——一类最初设计用于在无真值验证情况下真实引出私人信息的机制——来评估预测者的专业程度,并利用该评估改进预测聚合。我们在一个由14个人类预测数据集组成的多样化集合上评估了同伴预测辅助的聚合器。与多种现有聚合器相比,我们的聚合器在由Brier分数和对数分数衡量的聚合准确性上取得了显著且一致的提升。我们的结果揭示了即使无历史数据,识别专家以改进聚合的有效性。
引用
@article{arxiv.1910.03779,
title = {Forecast Aggregation via Peer Prediction},
author = {Juntao Wang and Yang Liu and Yiling Chen},
journal= {arXiv preprint arXiv:1910.03779},
year = {2022}
}