论神经机器翻译中的搜索误差与模型误差：猫把你的舌头叼走了？

我们报告了神经机器翻译（NMT）中的搜索误差与模型误差。我们提出了一种基于集束搜索与深度优先搜索相结合的神经序列模型精确推断过程。我们利用该精确搜索在 Transformer base 模型下为整个 WMT15 英德测试集找到了全局最优模型分数。令人惊讶的是，即便使用高达 100 的超大 beam size，集束搜索在多数情况下也未能找到这些全局最优模型分数。对于超过 50% 的句子，模型实际上将其全局最优分数赋给了空翻译，揭示了神经模型在充分性建模上的严重失败。我们通过施加最小翻译长度约束进行搜索，表明空翻译问题的根源在于对较短翻译的固有偏好偏差。我们得出结论：当前形式的 vanilla NMT 恰恰需要恰到好处的集束搜索误差，从建模视角看这确实是一个极不令人满意的结论，因为模型常常偏好空翻译。