椭球分离机
最优化与控制
2025-09-01 v2
摘要
我们提出了——据我们所知——首个完全功能化的“凸体分离”(SCB)方法的实现,该方法最初由Grzybowski等人[1]概述,用于分类,即使用椭球分离两个数据集。定义了一个训练问题,其在结构上类似于支持向量机(SVM),因此我们将我们的方法称为椭球分离机(ESM)。与SVM一样,训练问题是凸的,并且可以特别地表述为半定规划(SDP);然而,通过标准SDP方法求解它无法扩展到实际分类任务所需的规模。作为替代方案,提出了一种非凸公式,该公式适用于块Gauss-Seidel方法,在规模小得多的SDP和简单的可分离二阶锥规划(SOCP)之间交替进行。为了分类方法的目的,甚至可以通过以拉格朗日方式松弛它并使用快速次梯度类型方法更新乘子来近似求解缩减后的SDP。ESM的一个特点是它必然定义“不确定点”,即那些不能被可靠地分类为属于两个集合之一的点。这使得它特别适用于带拒绝的分类(CwR)任务,其中系统明确指示将某些点分类为属于两个集合之一过于可疑而不可靠。我们表明,在许多数据集中,ESM与SVM(核函数从三个标准核函数中选择,并使用分类器的间隔赋予CwR能力)相比具有竞争力,并且通常表现不同;因此,ESM在设计CwR方法时提供了另一种选择。
引用
@article{arxiv.2507.20698,
title = {The Ellipsoidal Separation Machine},
author = {Antonio Frangioni and Enrico Gorgone and Benedetto Manca},
journal= {arXiv preprint arXiv:2507.20698},
year = {2025}
}