可重复性：人工智能治理的新领域

人工智能政策制定者负责提供有效的治理机制，以确保人工智能的安全、对齐和可信。然而，为政策制定者提供的信息环境以不必要的低信噪比为特征，倾向于监管被夺权，并在治理视角下哪些风险应被优先考虑方面造成深层不确定性和分歧。我们认为，当前人工智能研究的出版速度，以及通过弱可重复性协议不强科学标准的缺失，实际上削弱了政策制定者制定有意义政策和治理协议的能力。本文概述了人工智能研究如何采用更严格的可重复性指南，以协助治理努力并改善对人工智能风险图景的共识。我们通过审视其他科学领域中的危机，来评估人工智能研究所面临的即将到来的可重复性危机；并就采用预注册、增加统计功效以及发布负面结果的可重复性协议如何使有效的人工智能治理提供评论。尽管我们坚持认为人工智能治理必须是反应性的 due to AI's significant societal implications（因人工智能的重大社会影响而必须具有反应性），但我们认为政策制定者和政府必须将可重复性协议视为治理武器库的核心工具，并要求人工智能研究达到更高的标准。代码可复制数据和图表：https://github.com/IFMW01/reproducibility-the-new-frontier-in-ai-governance