PoGO：通过量化梯度下降和 Merkle 证明实现可验证的有用工作

我们提出一种称为 Proof of Gradient Optimization (PoGO) 的设计，用于区块链共识，矿工生产大规模机器学习模型训练的可验证证据。基于前期工作，我们引入 4 位定量梯度以降低存储和计算需求，同时保持验证者能够检查模型损失确实降低的能力。此外，我们采用针对完整 32 位模型的 Merkle 证明，以处理大规模参数集并实现最小链上数据下的随机叶子检查。我们以 GPT-3（1750 亿参数）作为参考示例，也提到一些规模较小但性能卓越的模型（如 Gemma~3，270 亿参数）。我们提供实证成本分析，表明验证成本显著低于训练成本，这部分归功于量化和抽样。我们也讨论在纳入有意义训练步骤后需要更长区块时间（可能为数小时）、使用专用 GPU 硬件时的权衡，以及二进制差异如何逐步优化更新。最后我们指出，微调可以类似方式处理，仅需更改数据集和抽样方式，但保持整体验证流程不变。我们的协议允许验证者发出正向或负向确认；这些确认在最终化时被聚合，以确认更新或惩罚矿工。