规模化开放式推理:预测未来
机器学习
2026-01-06 v2 计算与语言
摘要
高风险决策涉及对未来不确定性的推理。在本工作中,我们训练语言模型以对开放式预测问题进行预测。为规模化训练数据,我们从每日新闻报道的全球事件中合成新颖的预测问题,采用完全自动化、严谨的筛选方案。我们在我们的数据集 OpenForesight 上训练 Qwen3 思考模型。为防止训练和评估期间泄露未来信息,我们使用离线新闻语料库进行数据生成和检索。遵循小型验证集的指导,我们展示了检索的好处,以及强化学习(RL)中改进的奖励函数。当我们获得最终的预测系统后,我们进行了于 2025 年 5 月至 8 月的留样测试。我们的专用模型 OpenForecaster 8B 在准确性、校准和预测一致性方面均达到了与大型专有模型相当的水平。我们发现,预测训练带来的校准改进可在流行基准测试中普遍传播。我们开源了所有模型、代码和数据,以便广泛可及地进行语言模型预测研究。
引用
@article{arxiv.2512.25070,
title = {Scaling Open-Ended Reasoning to Predict the Future},
author = {Nikhil Chandak and Shashwat Goel and Ameya Prabhu and Moritz Hardt and Jonas Geiping},
journal= {arXiv preprint arXiv:2512.25070},
year = {2026}
}
备注
45 pages