论口语分布式语义学的困难性

在无监督学习领域，大多数关于语音的研究集中于发现低层次结构，如音素清单或词类单元。相比之下，对于书面语言，已有大量关于无监督归纳词、整句及更长文本语义表示的研究。本研究探讨了将这些方法从书面语适配到口语的挑战。我们推测，如果能从表面变异性中进行抽象，口语语义的无监督学习将变得可行。我们使用一个由逼真但统一的合成语音说出的话语数据集来模拟这一设定。我们评估了两个简单的无监督模型，它们在不同程度上成功学习了语音片段的语义表示。最后，我们给出了针对人类语音的非确定性结果，并讨论了在无限制自然口语上学习分布式语义表示所固有的挑战。