基于牛顿方法的子空间支持向量数据描述
机器学习
2023-09-26 v1
摘要
本文提出一种牛顿方法对子空间支持向量数据描述(S-SVDD)优化的适配。S-SVDD的目标是将原始数据映射到一个针对单类分类优化的子空间，而S-SVDD中数据映射与描述的迭代优化过程依赖于梯度下降。然而，梯度下降仅利用一阶信息，可能导致次优结果。为克服此局限，我们利用牛顿方法增强数据映射与数据描述，以改进基于子空间学习的单类分类优化。通过引入该辅助信息，与基于梯度的优化相比，牛顿方法为单类分类中的子空间学习提供了更高效的策略。本文讨论了梯度下降的局限以及牛顿方法在单类分类子空间学习中的优势。我们给出了基于牛顿方法的S-SVDD优化之线性与非线性公式。实验中，我们探究了目标的最小化与最大化策略。结果表明，所提优化策略在大多数情况下优于基于梯度的S-SVDD。
引用
@article{arxiv.2309.13960,
title = {Newton Method-based Subspace Support Vector Data Description},
author = {Fahad Sohrab and Firas Laakom and Moncef Gabbouj},
journal= {arXiv preprint arXiv:2309.13960},
year = {2023}
}
备注
8 pages, 2 figures, 2 tables, 1 Algorithm. Accepted at IEEE Symposium Series on Computational Intelligence 2023