多维计数网格：从无序词袋推断词序
信息检索
2012-02-20 v1 计算与语言
机器学习
机器学习
摘要
词袋模型通常假设主题混合，使得单个词袋中的词来自有限数量的主题。我们在此展示，许多词袋集合表现出与主题混合有效捕获的模式截然不同的变化模式。在许多情况下，从一个词袋到下一个，词消失而新词出现，仿佛主题在文档间缓慢而平滑地转移（假设文档以某种方式排序）。描述这种排序的潜在结构的例子很容易想象。例如，新闻故事日期的推进反映在主题的平滑变化上，因为某些不断发展的新闻故事失宠而新事件创造新故事。连续几天故事之间的重叠可以通过使用线性排列的紧致词分布上的窗口来建模。我们在此展示，这种策略可以扩展到多个维度以及数据排序不明显的情况。我们证明，这种对词共现变化建模的方式在生物、文本建模和计算机视觉应用的分类和预测任务中优于标准主题模型。
引用
@article{arxiv.1202.3752,
title = {Multidimensional counting grids: Inferring word order from disordered bags of words},
author = {Nebojsa Jojic and Alessandro Perina},
journal= {arXiv preprint arXiv:1202.3752},
year = {2012}
}