基于 Fokker-Planck 概率流的机器学习中的熵产生

在非平稳环境中部署的机器学习模型由于数据漂移必然会经历性能下降。虽然存在众多漂移检测 heuristic 方法，但大多数缺乏动力学解释，仅能提供关于如何在操作成本与 retraining decisions 之间进行平衡的有限指导。本文提出一种基于熵的 retraining 框架，立足于非平衡统计物理学。将漂移解释为受 Fokker-Planck 方程控制的概率流，通过相对熵量化模型与数据之间的不匹配，并展示其时间导数可分解为熵平衡形式，其中包含由概率流驱动的非负熵产生项。基于此理论，我们实现了一个基于指数加权移动平均（EWMA）控制统计量的 entropy-triggered retraining 策略，应用于 streaming kernel density estimator 对 Kullback-Leibler 散度的估计。我们在多个非平稳数据流上对该方法进行评估。在合成、金融和 web 流量领域，基于熵的 retraining 在保持与频繁 retraining 相当的预测性能的同时，将 retraining 频率降低一个数量级甚至两个数量级。然而，在一个具有挑战性的生物医学 ECG 场景中，基于熵的触发器不如最大频率基准差。