可分主题模型中新词检测的充要条件
机器学习
2013-10-31 v1 信息检索
机器学习
摘要
单纯形条件及其他蕴含该条件的更强条件，近期在开发具有可证明渐近一致性和样本复杂度保证的多项式时间算法方面发挥了核心作用，这些算法用于可分主题模型中的主题估计。在这些算法中，仅依赖单纯形条件的算法不具实用性，而实用的算法则需要更强的条件。本文首次证明，单纯形条件是一致性可分主题估计的基本的、与算法无关的信息论必要条件。此外，在仅满足单纯形条件的情况下，我们提出了一种基于随机投影的实用二次复杂度算法，该算法仅利用直至二阶的经验词矩即可一致地检测所有主题的所有新词。该算法适用于分布式实现，使其在涉及大型分布式数据库网络的“大数据”场景中极具吸引力。
引用
@article{arxiv.1310.7994,
title = {Necessary and Sufficient Conditions for Novel Word Detection in Separable Topic Models},
author = {Weicong Ding and Prakash Ishwar and Mohammad H. Rohban and Venkatesh Saligrama},
journal= {arXiv preprint arXiv:1310.7994},
year = {2013}
}