中文

语义整体论与人工神经网络中的词表示

计算与语言 2020-03-13 v1

摘要

人工神经网络是许多自然语言处理问题的前沿解决方案。从人工神经网络表示语言的方式中,我们能学到关于语言与意义的什么?由 word2vec 模型的 Skip-gram 变体获得的词表示展现出有趣的语义性质。这通常通过指涉一般分布假说解释,该假说认为词的意义由其出现语境给出。我们提出一种基于弗雷格整体论与功能意义观的更具体路径。以图根哈特对弗雷格工作的形式化重释为起点,我们证明其与 Skip-gram 模型训练过程类似,并为其语义性质提供可能解释。

关键词

引用

@article{arxiv.2003.05522,
  title  = {Semantic Holism and Word Representations in Artificial Neural Networks},
  author = {Tomáš Musil},
  journal= {arXiv preprint arXiv:2003.05522},
  year   = {2020}
}