用于不平衡分类的SVM原估计次梯度求解器
机器学习
2023-11-13 v6 应用统计
摘要
我们旨在通过实验证明，我们的成本敏感PEGASOS SVM在多数类与少数类比率从8.6:1到130:1的不平衡数据集上取得了良好性能，并确定包含截距（偏置）、正则化和参数是否影响我们在所选数据集上的性能。尽管许多人诉诸SMOTE方法，我们的目标是计算密集度较低的方法。我们通过检查学习曲线来评估性能。这些曲线可以诊断我们是否过拟合或欠拟合，或者过程中选择的随机数据样本在因变量类别上是否不够随机或不够多样化，以至于算法无法泛化到未见示例。我们还将在验证曲线中观察超参数与测试及训练误差的背景关系。我们将我们的PEGASOS成本敏感SVM的结果与Ding的LINEAR SVM DECIDL方法进行基准比较。他在一个数据集上获得了0.5的ROC-AUC。我们的工作将通过将核方法纳入SVM来扩展Ding的工作。我们将使用Python而非MATLAB，因为Python具有字典，可在多参数交叉验证期间存储混合数据类型。
引用
@article{arxiv.2206.09311,
title = {Primal Estimated Subgradient Solver for SVM for Imbalanced Classification},
author = {John Sun},
journal= {arXiv preprint arXiv:2206.09311},
year = {2023}
}
备注
10 pages, 4 tables, 3 figures