推理计算扩展重塑 AI 治理

从扩大 AI 系统的预训练计算规模转向扩大其推理计算规模，可能会对 AI 治理产生深远影响。这些影响的性质在很大程度上取决于这种新的推理计算将主要用于外部部署，还是作为实验室内部更复杂训练计划的一部分。部署时推理的快速扩展将：降低开放权重模型的重要性（以及保护闭源模型权重的必要性），减弱首批人类水平模型的影响，改变前沿 AI 的商业模式，减少对高能耗数据中心的需求，并打破当前通过训练计算阈值进行 AI 治理的范式。训练中推理的快速扩展将产生更为模糊的影响，涵盖从预训练扩展的复兴到通过迭代蒸馏与放大实现的递归自我改进。