超越：生成模型能超过其训练专家

生成模型是通过学习其训练数据所诱导的条件概率分布来实现的。因此，当训练于人类生成的数据时，我们可能不会期望人工模型在其原始目标上超越人类。在本文中，我们研究了超越现象：即生成模型在能力上超过其数据生成专家。我们通过训练一个自回归变压器来围绕棋局记录进行下棋，展示了该训练模型有时能超过数据集中所有玩家的表现。我们理论上证明了低温抽样可以实现超越，并通过实验严格评估了这一论点。最后，我们讨论了超越的其他来源，为该现象在更广泛的环境中进行的未来研究奠定了基础。