基于预测不确定性的人工概念漂移早期检测
机器学习
2024-12-17 v1
摘要
概念漂移，表现为数据分布随时间不可预测的变化，给机器学习在流式数据场景中的模型带来重大挑战。虽然基于误差率的概念漂移检测器广泛使用，但往往无法在数据分布变化但误差率保持不变的早期阶段识别漂移。本文引入预测不确定性指数（PU-index），从分类器的预测不确定性中推导，作为优于误差率用于漂移检测的替代方案。我们的理论分析表明：(1) PU-index 能在误差率保持稳定时检测漂移；(2) 误差率的任何变化都会导致 PU-index 的相应变化。这些特性使 PU-index 在现有方法之外更为灵敏和稳健，用作漂移检测指示器。我们还提出了基于 PU-index 的漂移检测器（PUDD），采用新颖的自适应 PU-index 分箱算法进行检测。在结构化数据和图像数据上的实证评估表明，PUDD 在检测漂移方面具有有效性。
引用
@article{arxiv.2412.11158,
title = {Early Concept Drift Detection via Prediction Uncertainty},
author = {Pengqian Lu and Jie Lu and Anjin Liu and Guangquan Zhang},
journal= {arXiv preprint arXiv:2412.11158},
year = {2024}
}
备注
Accepted by AAAI-2025