面向数据流的轻量级自动化特征监控
机器学习
2022-07-20 v2
摘要
监控自动化实时流处理系统的行为已成为现实应用中最相关的问题之一。此类系统的复杂性不断增加，严重依赖高维输入数据和数据饥渴的机器学习(ML)算法。我们提出了一种灵活的系统——特征监控(Feature Monitoring, FM)，可在此类数据集中检测数据漂移，并在流处理应用中保持较小且恒定的内存占用与较低的计算成本。该方法基于多变量统计检验，且在设计上由数据驱动（完整的参考分布从数据中估计）。它监控系统所使用的所有特征，并在警报触发时提供可解释的特征排序（以辅助根因分析）。系统的计算与内存轻量性源于指数移动直方图的使用。在我们的实验研究中，我们分析了系统随其参数的行为，更重要的是，展示了其检测到与单一特征无直接关联问题的示例。这说明了FM如何消除添加自定义信号以检测特定类型问题的需要，以及监控可用特征空间通常已足够。
引用
@article{arxiv.2207.08640,
title = {Lightweight Automated Feature Monitoring for Data Streams},
author = {João Conde and Ricardo Moreira and João Torres and Pedro Cardoso and Hugo R. C. Ferreira and Marco O. P. Sampaio and João Tiago Ascensão and Pedro Bizarro},
journal= {arXiv preprint arXiv:2207.08640},
year = {2022}
}
备注
10 pages, 5 figures. AutoML, KDD22, August 14-17, 2022, Washington, DC, US