粒球孪生支持向量机

孪生支持向量机(TSVM)是一种新兴的机器学习模型,在分类和回归任务中具有广泛适用性。然而,TSVM 面临着显著挑战:$(i)$ 对矩阵求逆的迫切需求对其在大规模数据集上的效率和适用性构成了巨大障碍;$(ii)$ 其原始公式中省略了结构风险最小化(SRM)原则,增加了过拟合风险;$(iii)$ TSVM 对噪声和异常值高度敏感,并且在重采样时也表现出不稳定性。针对上述挑战,我们提出了粒球孪生支持向量机(GBTSVM)。GBTSVM 以粒球而非单个数据点作为输入来构建分类器。这些粒球具有更粗的粒度,对重采样具有鲁棒性,并且对噪声和异常值的影响敏感性降低。我们进一步提出了一种新颖的大规模粒球孪生支持向量机(LS-GBTSVM)。LS-GBTSVM 的优化公式确保了两个关键方面:$(i)$ 它消除了对矩阵求逆的需求,简化了 LS-GBTSVM 的计算效率;$(ii)$ 它通过引入正则化项纳入了 SRM 原则,有效解决了过拟合问题。所提出的 LS-GBTSVM 体现了高效性、对大数据集的可扩展性以及对噪声和异常值的鲁棒性。我们在来自 UCI、KEEL 和 NDC 数据集的基准数据集上对 GBTSVM 和 LS-GBTSVM 模型进行了全面评估。我们的实验结果和统计分析证实了所提出的 GBTSVM 和 LS-GBTSVM 模型具有优越的泛化能力。