BiPhone：建模文本中语言间的语音影响
计算与语言
2023-07-10 v1
摘要
由于技术不对称，大量人群被迫以读写能力较低的语言使用 Web。此类用户的第二语言（L2）书面文本常包含大量受其母语（L1）影响的错误。我们提出一种方法，为 L1 与 L2 的配对挖掘音素混淆（L1 说话者可能混淆的 L2 中的音）。这些混淆随后被植入一个生成模型（Bi-Phone）中，用于合成产生损坏的 L2 文本。通过人工评估，我们表明 Bi-Phone 生成的合理损坏因 L1 不同而异，且在 Web 上具有广泛覆盖。我们还用我们的技术破坏了流行的语言理解基准 SuperGLUE（即 FunGLUE，Phonetically Noised GLUE），并表明 SOTA 语言理解模型表现糟糕。我们还引入了一项新的音素预测预训练任务，帮助字节模型恢复接近 SuperGLUE 的性能。最后，我们发布了 FunGLUE 基准以促进对语音鲁棒语言模型的进一步研究。据我们所知，FunGLUE 是首个在文本中引入 L1-L2 交互的基准。
引用
@article{arxiv.2307.03322,
title = {BiPhone: Modeling Inter Language Phonetic Influences in Text},
author = {Abhirut Gupta and Ananya B. Sai and Richard Sproat and Yuri Vasilevski and James S. Ren and Ambarish Jash and Sukhdeep S. Sodhi and Aravindan Raghuveer},
journal= {arXiv preprint arXiv:2307.03322},
year = {2023}
}
备注
Accepted at ACL 2023