再训练中的陷阱：在闭环学习下遍历指数族的参数空间

闭环学习是指反复地从模型自身生成的数据中估计模型的过程。由于大型神经网络模型未来可能主要使用由人工神经网络自身生成的数据进行训练，这一过程正受到广泛关注。我们针对属于指数族的模型进行研究，推导描述参数动力学的运动方程。我们指出，最大似然估计参数会赋予充分统计量鞅属性，结果表明该过程会收敛到放大数据初始偏差的吸收态。然而，我们表明，如果数据中包含至少一个来自真实模型生成的数据点，则可通过采用最大后验估计或引入正则化来防止这种结果。