立即行动：面向大规模流数据集的在线预测新框架
机器学习
2024-12-03 v1
摘要
本文发现现有在线预测方法存在以下问题：1）未考虑流数据更新频率，直接使用标签（未来信号）更新模型，导致信息泄露。2）消除信息泄露会加剧概念漂移，模型在线参数更新会损害预测准确性。3）省略验证集会切断模型的持续学习。4）现有 GPU 设备无法支持大规模流数据集的在线学习。为解决上述问题，我们提出一种新型在线学习框架——Act-Now，以提升大规模流数据集上的在线预测性能。首先，我们引入随机子图采样（RSS）算法，以实现高效模型训练。随后，我们设计快速流缓冲区（FSB）和慢速流缓冲区（SSB）进行在线模型更新。FSB 通过使用一致的伪标签和部分标签立即更新模型，以避免信息泄露。SSB 则使用来自更早时间的完整标签并行更新模型。进一步为解决概念漂移问题，我们提出带统计流和归一化流的标签分解模型（Lade），该模型分别预测数据的统计变化和归一化后未来值，通过组合器整合生成最终预测。最后，我们提出在验证集上执行在线更新，以确保模型在流数据上的学习一致性。大量实验表明，所提出的 Act-Now 框架在大规模流数据集上表现优异，分别实现了平均 28.4% 和 19.5% 的性能提升。实验可通过 https://github.com/Anoise/Act-Now 复现。
引用
@article{arxiv.2412.00108,
title = {Act Now: A Novel Online Forecasting Framework for Large-Scale Streaming Data},
author = {Daojun Liang and Haixia Zhang and Jing Wang and Dongfeng Yuan and Minggao Zhang},
journal= {arXiv preprint arXiv:2412.00108},
year = {2024}
}
备注
12 pages, 8 figures