计算阈值作为治理策略的局限性

表面上看，这篇随笔是关于理解一种相当晦涩的治理工具——计算阈值。然而，要弄清这些阈值是否会产生实际效果，我们首先必须理解它们是如何形成的。为此，我们需要参与计算机科学进步中已有数十年之争论，核心是：更大的规模总是更好吗？不同的计算规模临界点会导致模型风险轮廓的变化吗？因此，这篇随笔不仅对政策制定者和更广泛的公众可能有所启发，也对对计算在解锁突破性成果中发挥作用感兴趣的计算机科学家可能具有启发意义。鉴于计算阈值在白宫AI安全行政命令（EO）和欧盟AI法案中广泛采用以识别更高风险系统，此讨论具有时效性。本文的一个关键结论是，当前实施的计算阈值显得目光短浅，可能无法有效缓解风险。计算与风险之间的关系高度不确定且快速变化。依赖计算阈值会高估我们对不同规模下能力何时出现的预测能力。本文以前进的建议作结。