具有标签依赖稀疏模式的低秩可解释文档表示
计算与语言
2014-07-28 v1 信息检索
机器学习
摘要
在文档分类的背景下，当文档语料库中的标签已知时，存在利用标签信息学习具有更好判别特性的文档表示空间的机会。为此，本文提出应用一种具有系数标签驱动稀疏结构的变分贝叶斯监督非负矩阵分解 (supervised vbNMF)，以学习出现在 TF-IDF 文档表示中的判别性非减性潜在语义成分。约束条件使得所寻求的成分仅频繁出现在少量标签中，从而能够生成具有独特标签特定稀疏激活模式的文档表示。本文引入了一种衡量此类稀疏结构质量的简单指标，称为标签间稀疏度 (inter-label sparsity)，并通过实验证明其与分类性能紧密相关。作为一个极大的实际便利，标签间稀疏度在 supervised vbNMF 中可通过单个参数轻松控制。
引用
@article{arxiv.1407.6872,
title = {Interpretable Low-Rank Document Representations with Label-Dependent Sparsity Patterns},
author = {Ivan Ivek},
journal= {arXiv preprint arXiv:1407.6872},
year = {2014}
}