L1正则化最大熵的高效多类实现
机器学习
2007-05-23 v1 计算与语言
摘要
本文讨论了将L1正则化最大熵建模（即SL1-Max [9]）应用于多类分类问题的做法。提出了一种对SL1-Max快速顺序学习算法的新修改，以处理条件分布。与大多数前期研究不同，本研究不局限于单一类型的条件分布。它描述并比较了关于类别分布（独立或互斥）以及各种联合或条件分布的多种建模假设。结果是一种新的方法，用于将二进制正则化分类器组合以实现多类分类。在此语境下，最大熵可被视为一种通用且高效的正则化分类工具，可实现或超越以AdaBoost和SVM表示的当前技术。
引用
@article{arxiv.cs/0506101,
title = {Efficient Multiclass Implementations of L1-Regularized Maximum Entropy},
author = {Patrick Haffner and Steven Phillips and Rob Schapire},
journal= {arXiv preprint arXiv:cs/0506101},
year = {2007}
}
备注
13 pages, describes new conditional maxent algorithm, to be submitted