分布式多项逻辑回归
应用统计
2015-11-06 v4
摘要
本文介绍了一种用于多项逻辑(softmax)回归的基于模型的分布式计算方法。我们将每个响应类别的计数视为独立的泊松回归,并通过插入估计量处理跨类别共享的固定效应。本研究由用于分析大量随机计数的高维响应多项模型所驱动。我们的激励应用在于文本分析,其中文档被分词,且词元计数被建模为依赖于文档属性的多项分布。我们利用来自 Yelp 的公开评论数据集估计了此类模型,将文本回归到一大组解释变量(用户、商家和评分信息)上。拟合后的模型可作为探索词汇与感兴趣变量之间联系、将维度缩减为监督因子得分以及进行预测的基础。我们认为,本文提出的方法为社会科学家及其他希望将熟悉的回归工具应用于文本数据的文本分析人员提供了一个有吸引力的选择。
引用
@article{arxiv.1311.6139,
title = {Distributed multinomial regression},
author = {Matt Taddy},
journal= {arXiv preprint arXiv:1311.6139},
year = {2015}
}
备注
Published at http://dx.doi.org/10.1214/15-AOAS831 in the Annals of Applied Statistics (http://www.imstat.org/aoas/) by the Institute of Mathematical Statistics (http://www.imstat.org)