Lattention：ASR重打分中的格注意力
计算与语言
2021-11-22 v1 声音
音频与语音处理
摘要
格构成了由自动语音识别系统生成的多个假设的紧凑表示，并且相较于使用最优假设，已被证明能改善口语理解和语音翻译等下游任务的性能。在本工作中，我们考察了在第二遍中对 n-best 列表进行重打分时格线索的有效性。我们用循环网络编码格，并训练一个注意力编码器-解码器模型用于 n-best 重打分。具有格注意力的重打分模型相比第一遍取得了 4-5% 的相对词错误率降低，而结合格与声学特征注意力则取得了 6-8% 的降低。我们表明，具有格注意力的重打分模型优于具有 n-best 假设注意力的模型。我们还研究了在格编码器中融入格权重的不同方式，并展示了它们对 n-best 重打分的重要性。
引用
@article{arxiv.2111.10157,
title = {Lattention: Lattice-attention in ASR rescoring},
author = {Prabhat Pandey and Sergio Duarte Torres and Ali Orkan Bayer and Ankur Gandhe and Volker Leutnant},
journal= {arXiv preprint arXiv:2111.10157},
year = {2021}
}
备注
Submitted to ICASSP 2022