中文

二分类的基本定律

机器学习 2023-01-03 v2

摘要

寻找最小风险二分类系统的判别函数是一个新颖的几何轨迹问题——需要求解二分类的基本轨迹方程系统——并受制于深层的统计定律。我们表明,最小风险二分类系统的判别函数是轨迹方程的解,该方程表示系统决策边界的几何轨迹,其中判别函数通过独占的主本征坐标系与决策边界相连——此时判别函数由新颖主本征轴的几何轨迹表示——结构为似然分量与主本征轴分量的双重轨迹。我们证明,最小风险二分类系统通过定位一个平衡点来联合最小化其本征能量与风险,在该点系统所展现的临界最小本征能量被对称地集中,使得系统的新颖主本征轴展现对称的维度和密度,从而系统的抵消与对立力及影响关于新颖主本征轴轨迹的几何中心彼此对称平衡——系统的统计支点即位于此。由此,最小风险二分类系统满足统计平衡态——使得系统所展现的总允许本征能量与期望风险在系统决策空间内被联合最小化——此时系统展现最小分类错误概率。

关键词

引用

@article{arxiv.2205.07589,
  title  = {Fundamental Laws of Binary Classification},
  author = {Denise M. Reeves},
  journal= {arXiv preprint arXiv:2205.07589},
  year   = {2023}
}

备注

265 pages, 21 figures: We present a comprehensive treatise on the binary classification of random vectors. We formulate the direct problem by generalizing a well-posed variant of Bayes' decision rule. We formulate the inverse problem by generalizing a well-posed variant of the constrained optimization algorithm used by support vector machines to learn nonlinear decision boundaries