中文

基于得分向量的监督学习模型概念漂移监测与诊断

机器学习 2022-09-14 v2 机器学习

摘要

监督学习模型是最基础的模型类别之一。从概率视角看待监督学习,通常假设拟合模型的训练数据集服从平稳分布。然而,这一平稳性假设常被一种称为概念漂移的现象所违背,它指的是协变量 X\mathbf{X} 与响应变量 YY 之间预测关系随时间的改变,并会使训练好的模型变得次优或 obsolete。我们开发了一个全面且计算高效的框架,用于检测、监测和诊断概念漂移。具体而言,我们监测 Fisher 得分向量(定义为拟合模型对数似然的梯度),采用一种多元指数加权移动平均的形式,以监测随机向量均值的普遍变化。尽管我们展示了相比流行的基于误差的方法具有显著的性能优势,但基于得分的方法此前未被考虑用于概念漂移监测。所提出的基于得分的框架的优势包括:适用于任意参数模型、如理论与实验所示更强的变化检测能力,以及用于帮助识别变化性质的内在诊断能力。

关键词

引用

@article{arxiv.2012.06916,
  title  = {Concept Drift Monitoring and Diagnostics of Supervised Learning Models via Score Vectors},
  author = {Kungang Zhang and Anh T. Bui and Daniel W. Apley},
  journal= {arXiv preprint arXiv:2012.06916},
  year   = {2022}
}