用 Fenchel-Young 损失学习分类器:广义熵、间隔与算法
机器学习
2019-02-25 v4 机器学习
摘要
本文研究 Fenchel-Young 损失,这是一种由正则化函数构造凸损失函数的通用方法。我们深入分析了它们的性质,表明它们统一了许多著名的损失函数,并允许轻松创建有用的新损失函数。由广义熵(包括 Shannon 熵和 Tsallis 熵)构造的 Fenchel-Young 损失诱导出预测概率分布。我们给出了广义熵产生具有分离间隔的损失以及具有稀疏支撑的概率分布的条件。最后,我们推导出高效算法,使 Fenchel-Young 损失在理论和实践上都具有吸引力。
引用
@article{arxiv.1805.09717,
title = {Learning Classifiers with Fenchel-Young Losses: Generalized Entropies, Margins, and Algorithms},
author = {Mathieu Blondel and André F. T. Martins and Vlad Niculae},
journal= {arXiv preprint arXiv:1805.09717},
year = {2019}
}
备注
In proceedings of AISTATS 2019