评估无监督深度神经网络的语言能产性
计算与语言
2017-06-07 v1
摘要
认知科学家日益表现出应用深度学习工具的兴趣。深度学习的一个用途在于语言习得，其中了解语言现象是否可通过领域通用手段习得是有用的。为评估无监督深度学习是否合适，我们首先提出一个较小的问题：无监督神经网络能否能产地应用语言规则，将其用于新颖情境？我们通过训练一个无监督自编码器网络，测量其将名词与限定词组合的能力，借鉴了关于限定词/名词能产性的文献。我们的简单自编码器创建了先前未遇到的组合，并产生与成人匹配的重叠程度。尽管这一初步工作未提供关于能产性的决定性证据，它值得用更复杂的模型进一步研究。此外，该工作有助于为深度学习和认知科学界未来的合作奠定基础。
引用
@article{arxiv.1706.01839,
title = {Assessing the Linguistic Productivity of Unsupervised Deep Neural Networks},
author = {Lawrence Phillips and Nathan Hodas},
journal= {arXiv preprint arXiv:1706.01839},
year = {2017}
}
备注
To be presented at the 39th Annual Meeting of the Cognitive Science Society