中文

基于梯度的二次多形分离

机器学习 2021-10-27 v2 机器学习

摘要

分类作为监督学习的概念是机器学习中的重要内容,旨在将一组数据归类。当前有若干常用分类方法,如k近邻、随机森林和支持向量机。它们各有优劣,且无一能应对所有类型的问题。本文中,我们关注由Michael Fan等人(2019)近期提出的分类方法——二次多形分离(QMS)。其新颖概念、丰富的数学结构以及对损失函数的创新定义使其有别于现有分类方法。受QMS启发,我们提出利用基于梯度的优化方法Adam来获得使QMS特定损失函数最小化的分类器。此外,我们通过探索超参数与准确率之间的关系,给出关于模型调优的建议。我们的实证结果表明,QMS在准确率方面表现与大多数分类方法相当,其优越性能几乎可与在大量机器学习竞赛中获胜的梯度提升算法相媲美。

关键词

引用

@article{arxiv.2110.13006,
  title  = {Gradient-based Quadratic Multiform Separation},
  author = {Wen-Teng Chang},
  journal= {arXiv preprint arXiv:2110.13006},
  year   = {2021}
}

备注

47 pages, 11 figures