基于AUC优化的稀疏非线性分类器设计
人工智能
2016-12-28 v1 机器学习
机器学习
摘要
AUC（ROC曲线下面积）对于数据高度不平衡的应用而言是一种重要的性能度量。因此，学习最大化AUC性能是一个重要的研究问题。使用基于最大间隔的替代损失函数，AUC优化问题可近似为成对的rankSVM学习问题。求解该问题核化版本的批量学习方法存在可扩展性问题，且可能无法得到稀疏分类器。近年来，开发通过最大化AUC性能来设计分类器的在线或单次在线学习算法引起了越来越多的兴趣。在许多真实数据集上，使用在线方法设计的非线性分类器的AUC性能，无法与使用批量学习算法设计的非线性分类器相媲美。受这些观察的启发，我们设计了一种可扩展算法，通过贪心地将所需数量的基函数添加到分类器模型中来最大化AUC性能。所得到的稀疏分类器具有更快的推理速度。我们的实验结果表明，在不显著影响AUC性能的情况下，可实现的稀疏度级别可比核RankSVM模型小一个数量级。
引用
@article{arxiv.1612.08633,
title = {A Sparse Nonlinear Classifier Design Using AUC Optimization},
author = {Vishal Kakkar and Shirish K. Shevade and S Sundararajan and Dinesh Garg},
journal= {arXiv preprint arXiv:1612.08633},
year = {2016}
}