关于最大间隔损失的一致性
机器学习
2022-03-22 v3 机器学习
摘要
机器学习中最大间隔（Max-Margin）的基础概念在具有多于两个标签的输出空间（如结构化预测）中是定义不良的。本文中，我们证明最大间隔损失仅在衡量输出间误差的离散损失满足高度限制性假设时才对分类任务一致。这些条件由树图定义的距离所满足，我们证明其一致性，从而成为首个被证明在二分类之外对最大间隔一致损失。我们最终通过修正最大间隔概念并引入受限最大间隔（Restricted-Max-Margin）来解决这些局限，其中保持损失增广分数的最大化，但在原始域的子集上执行。所得损失也是二分类支持向量机的推广，并且在离散损失的较温和条件下一致。
引用
@article{arxiv.2105.15069,
title = {On the Consistency of Max-Margin Losses},
author = {Alex Nowak-Vila and Alessandro Rudi and Francis Bach},
journal= {arXiv preprint arXiv:2105.15069},
year = {2022}
}