迈向对间隔（Margin）更深入的几何、分析与算法理解

给定矩阵 $A$，线性可行性问题（线性分类是其特例）旨在寻找原问题 $w: A^Tw > \textbf{0}$ 的解，或为对偶问题提供证书，即概率分布 $p: Ap = \textbf{0}$。受机器学习中“大间隔分类器”持续重要性的启发，本文研究了一种称为$A$的\textit{间隔}（margin）的条件度量，它决定了上述两个问题的难度。为了辅助几何直觉，我们首先用相关的球、锥和凸包建立了间隔的新刻画。我们的第二个贡献是分析性的，我们利用间隔给出了 Gordan 定理的推广以及 Hoffman 定理的变体。最后，我们证明了一些关于经典迭代方案感知机（Perceptron）的新结果，其收敛速率著名地依赖于间隔。除了为这一广泛主题提供统一视角外，我们的结果对于深入理解基于间隔的学习以及证明迭代方案的收敛速率具有重要意义。