非平稳环境中具有自适应重平衡的在线学习
机器学习
2020-09-28 v1 机器学习
摘要
如今，在各种现实应用中，海量且不断增长的数据以序列形式不断可用。在非平稳环境中学习构成了一项重大挑战，而在存在类别不平衡的情况下，该问题的复杂度会呈数量级增长。我们针对在线学习中的非平稳与不平衡数据学习提供了新见解，这是一个很大程度上未被探索的领域。我们提出了新颖的自适应重平衡（AREBA）算法，该算法有选择地将迄今为止出现的多数类与少数类示例的一个子集纳入训练集，其核心在于一种自适应机制，以持续维持所选示例之间的类别平衡。我们将 AREBA 与强基线及其他最先进（SOTA）算法进行比较，并在具有不同类别不平衡率和不同概念漂移类型的合成与真实世界数据场景下进行了广泛的实验工作。AREBA 在学习速度与学习质量两方面均显著优于其余方法。我们的代码已向科学界公开。
引用
@article{arxiv.2009.11942,
title = {Online Learning With Adaptive Rebalancing in Nonstationary Environments},
author = {Kleanthis Malialis and Christos G. Panayiotou and Marios M. Polycarpou},
journal= {arXiv preprint arXiv:2009.11942},
year = {2020}
}
备注
Keywords: class imbalance, concept drift, neural networks, nonstationary environments, online learning. in IEEE Transactions on Neural Networks and Learning Systems