语义整体论与人工神经网络中的词表示
计算与语言
2020-03-13 v1
摘要
人工神经网络是许多自然语言处理问题的前沿解决方案。从人工神经网络表示语言的方式中,我们能学到关于语言与意义的什么?由 word2vec 模型的 Skip-gram 变体获得的词表示展现出有趣的语义性质。这通常通过指涉一般分布假说解释,该假说认为词的意义由其出现语境给出。我们提出一种基于弗雷格整体论与功能意义观的更具体路径。以图根哈特对弗雷格工作的形式化重释为起点,我们证明其与 Skip-gram 模型训练过程类似,并为其语义性质提供可能解释。
引用
@article{arxiv.2003.05522,
title = {Semantic Holism and Word Representations in Artificial Neural Networks},
author = {Tomáš Musil},
journal= {arXiv preprint arXiv:2003.05522},
year = {2020}
}