CAdam：基于置信度的在线学习优化器

现代推荐系统经常采用在线学习来动态更新其模型以适应新收集的数据。最常用于这些情境中神经网络更新的优化器是 Adam 优化器，它整合了动量 ($m_t$) 和自适应学习率 ($v_t$)。然而，在线学习数据的 volatile 特性——即其频繁的分布迁移和噪声的存在——对 Adam 的标准优化过程构成重大挑战：(1) Adam 可能使用过时的动量和梯度平方的平均值，导致对分布变化的适应速度较慢；(2) Adam 的性能会受数据噪声的影响。为缓解这些问题，我们引入 CAdam，这是一种基于置信度的优化策略，通过评估动量与梯度在每个参数维度上的一致性来决定是否进行更新。如果动量和梯度一致，CAdam 按照 Adam 的原始公式进行参数更新；如果不一致，它会暂时暂停更新并监控后续迭代中数据分布的潜在变化。该方法使 CAdam 能够区分真实的分布迁移与仅仅的噪声，并更快地适应新的数据分布。在具有分布迁移或噪声的各种情境中，我们的实验表明，CAdam 在已知优化器中尤其是原始 Adam 之上显著优于其他优化器。此外，在活跃推荐系统中的大规模 A/B 测试中，CAdam 显著提高了模型性能，导致系统的 gross merchandise volume (GMV) 显著增加。