用于二分类器在线学习的动态特征缩放
机器学习
2014-07-30 v1 机器学习
摘要
缩放特征值是许多机器学习任务中的重要步骤。不同的特征可能具有不同的取值范围,通常需要某种形式的特征缩放才能学习出准确的分类器。然而,特征缩放通常作为学习前的预处理任务进行。这在在线设置中存在两个问题。首先,在学习的初始阶段,当我们仅观察到少量训练实例时,可能无法准确确定特征的取值范围。其次,数据分布可能随时间变化,这使得我们在预处理步骤中执行的任何特征缩放变得过时。我们提出了一种简单但有效的方法,在训练时动态缩放特征,从而快速适应数据流中的任何变化。我们将提出的动态特征缩放方法与几种用于估计缩放参数的更复杂方法进行了比较,使用了多个二分类基准数据集。我们提出的特征缩放方法在所有基准数据集上始终优于更复杂的方法,并提高了最先进 (SOTA) 在线二分类器算法的分类准确率。
引用
@article{arxiv.1407.7584,
title = {Dynamic Feature Scaling for Online Learning of Binary Classifiers},
author = {Danushka Bollegala},
journal= {arXiv preprint arXiv:1407.7584},
year = {2014}
}