请求-重验证:面向标签昂贵的基于概念漂移检测的分层假设检验
机器学习
2018-08-10 v2 人工智能
机器学习
摘要
常见分类模型背后的一个重要假设是数据的平稳性。然而,在现实世界的流式应用中,由特征与标签联合分布所指示的数据概念并非平稳而是随时间漂移的。概念漂移检测旨在检测此类漂移并调整模型,以减轻模型预测性能的退化。遗憾的是,大多数现有概念漂移检测方法依赖一个强硬且过于乐观的条件,即真实标签对所有已分类实例立即可用。本文提出一种带请求-重验证策略的新颖分层假设检验框架,仅在必要时请求标签来检测概念漂移。在该新框架下分别提出两种方法:基于分类不确定性的分层假设检验(HHT-CU)与基于属性-wise“拟合优度”的分层假设检验(HHT-AG)。在基准数据集的实验中,我们的方法相较最先进的无监督漂移检测器展现出压倒性优势。更重要的是,当我们使用显著更少的标签时,我们的方法甚至优于 DDM(广泛使用的有监督漂移检测器)。
引用
@article{arxiv.1806.10131,
title = {Request-and-Reverify: Hierarchical Hypothesis Testing for Concept Drift Detection with Expensive Labels},
author = {Shujian Yu and Xiaoyang Wang and Jose C. Principe},
journal= {arXiv preprint arXiv:1806.10131},
year = {2018}
}
备注
Published as a conference paper at IJCAI 2018