中文

支持向量机 (SVM) 与神经网络的凸损失函数

机器学习 2026-03-02 v4

摘要

我们提出了一种新的凸损失函数,用于支持向量机,适用于二分分类和回归模型。因此,我们展示了二次问题的数学推导,并在多个小型数据集上进行实验。由于 SVM 方法在大规模数据上的可扩展性较差,这些数据集的最小维度限制了实验规模。这一初步研究表明,使用模式相关性内置于损失函数中可增强泛化性能。我们的方法在各种数据集上始终实现了与标准损失相当或更好的性能,分类任务的 F1 分数提升最高可达 2.0%,回归任务的均方误差 (MSE) 降低最高可达 1.0%。一致地,结果表明,泛化度量始终不会比标准损失差,甚至多数情况下更好。我们认为,应对该损失函数进行深入研究,结合浅层和深层神经网络进行验证。事实上,我们在这些架构上取得了一些新结果。

关键词

引用

@article{arxiv.2601.21331,
  title  = {Convex Loss Functions for Support Vector Machines (SVMs) and Neural Networks},
  author = {Filippo Portera},
  journal= {arXiv preprint arXiv:2601.21331},
  year   = {2026}
}

备注

Experiment protocol is not correct. New experiments show that this approach does not work