协议学习、去中心化前沿风险与无关闭问题

前沿模型目前主要通过两种渠道开发和分发：中心化的专有 API 或预训练权重的开源。我们确定了第三种范式——协议学习——其中模型在由激励参与者组成的去中心化网络上进行训练。这种方法有潜力聚合比任何单一中心化实体多几个数量级的计算资源，从而实现前所未有的模型规模和能力。然而，它也带来了新的挑战：异构且不可靠的节点、恶意参与者、为保持激励而需要不可提取的模型，以及复杂的治理动态。迄今为止，尚未进行系统性的分析来评估协议学习的可行性或相关风险，特别是由于无法单方面停止集体训练模型而产生的“无关闭问题”。我们调查了表明去中心化训练可能可行的最新技术进展——涵盖了新兴的通信高效策略和容错方法——同时强调了仍然存在的关键开放问题。与去中心化固有地放大前沿风险的观点相反，我们认为协议学习的透明度、分布式治理和民主化访问最终会降低这些风险，相较于当今的中心化体制。