通过注意力获取置信度
计算与语言
2017-10-11 v1
摘要
生成翻译的注意力分布是基于注意力的循环神经网络翻译模型的一个有用的副产品，可以被视为输入与输出词元之间的软对齐。在本工作中，我们将注意力分布作为输出翻译的置信度指标。我们提出了两种使用注意力分布的策略：从大型回译语料库中过滤掉糟糕的翻译，以及在两种不同翻译系统的混合设置中选择最佳翻译。虽然人工评估表明我们的置信度分数与人类判断之间仅存在微弱的相关性，但这些用例在过滤和混合翻译上分别显示出高达 2.22 BLEU 分和 0.99 分的提升，这些结果在英语<->德语和英语<->拉脱维亚语翻译上进行了测试。
引用
@article{arxiv.1710.03743,
title = {Confidence through Attention},
author = {Matīss Rikters and Mark Fishel},
journal= {arXiv preprint arXiv:1710.03743},
year = {2017}
}