考察词替换错误对句子嵌入的影响
计算与语言
2019-04-26 v2 声音
音频与语音处理
摘要
若干自然语言处理（NLP）任务的一个关键初始步骤是将文本短语嵌入为保留语义的实数向量。为此，近期提出了多种方法，在语义相似度任务上取得了令人印象深刻的结果。然而，所有这些方法在生成嵌入时都假设可获得完美转录文本。虽然对于书面文本分析这是一个合理假设，但对于转录文本分析则具有局限性。本文研究了词替换错误（例如来自自动语音识别错误（ASR）的错误）对多种最先进句子嵌入方法的影响。为此，我们提出了一种新的模拟器，使实验者能够在语料库中以期望的词错误率引入 ASR 可信的词替换错误。我们利用该模拟器评估了若干句子嵌入方法的鲁棒性。我们的结果表明，预训练的神经句子编码器对 ASR 错误具有鲁棒性，并且在引入错误后于文本相似度任务上表现良好。与此同时，词向量的未加权平均值在完美转录下表现良好，但其在含有词替换错误的文本上的文本相似度任务性能迅速下降。
引用
@article{arxiv.1811.07021,
title = {Investigating the Effects of Word Substitution Errors on Sentence Embeddings},
author = {Rohit Voleti and Julie M. Liss and Visar Berisha},
journal= {arXiv preprint arXiv:1811.07021},
year = {2019}
}
备注
4 Pages, 2 figures. Copyright IEEE 2019. Accepted and to appear in the Proceedings of the 44th International Conference on Acoustics, Speech, and Signal Processing 2019 (IEEE-ICASSP-2019), May 12-17 in Brighton, U.K. Personal use of this material is permitted. However, permission to reprint/republish this material must be obtained from the IEEE