应用深度信念网络进行词义消歧
计算与语言
2012-07-03 v1 机器学习
摘要
在本文中，我们将一种新颖的学习算法——深度信念网络（DBN）应用于词义消歧（WSD）。DBN是一种由多个隐藏单元层组成的概率生成模型。DBN利用受限玻尔兹曼机（RBM）进行逐层贪婪预训练，然后通过单独的微调步骤来提高判别能力。我们将DBN与多种先进的WSD监督学习算法进行了比较，如支持向量机（SVM）、最大熵模型（MaxEnt）、朴素贝叶斯分类器（NB）和核主成分分析（KPCA）。我们使用给定段落中的所有单词、周围上下文单词以及周围单词的词性作为知识源。我们在SENSEVAL-2数据集上进行了实验，观察到DBN优于所有其他学习算法。
关键词
引用
@article{arxiv.1207.0396,
title = {Applying Deep Belief Networks to Word Sense Disambiguation},
author = {Peratham Wiriyathammabhum and Boonserm Kijsirikul and Hiroya Takamura and Manabu Okumura},
journal= {arXiv preprint arXiv:1207.0396},
year = {2012}
}