逐点分类:一种面向稀疏性的序列化方法
人工智能
2012-03-02 v1 机器学习
摘要
我们提出了一种新颖的分类技术,其目标是为每个数据点选择合适的表示,这与通常为整个数据集选择一种表示的方法形成对比。这种逐点表示通过使用一种稀疏性诱导的经验风险来寻找,该风险是标准 L0 正则化风险的一种松弛形式。分类问题被建模为一个序列决策过程,该过程在分类之前为每个数据点顺序选择要使用的特征。逐点分类自然地扩展到多类任务,我们描述了一种特定情况,其中我们的推理具有与传统线性分类器相当的复杂度,同时仍使用可变数量的特征。我们将我们的分类器与经典的 L1 正则化线性模型(L1-SVM 和 LARS)在一组常见的二分类和多分类数据集上进行了比较,结果表明,在使用的平均特征数量相等的情况下,我们的方法可以获得更好的性能。
引用
@article{arxiv.1108.5668,
title = {Datum-Wise Classification: A Sequential Approach to Sparsity},
author = {Gabriel Dulac-Arnold and Ludovic Denoyer and Philippe Preux and Patrick Gallinari},
journal= {arXiv preprint arXiv:1108.5668},
year = {2012}
}
备注
ECML2011