关于直接语音翻译中的知识蒸馏
计算与语言
2020-12-10 v1
摘要
直接语音翻译（ST）已被证明是一项复杂任务，需要从其子任务——自动语音识别（ASR）与机器翻译（MT）——转移知识。对于 MT，最具前景的知识转移技术之一是知识蒸馏。在本文中，我们比较了在 ST 这类序列到序列任务中蒸馏知识的不同方案。此外，我们分析了该方法可能存在的缺陷，以及如何在保持翻译质量收益的同时缓解这些缺陷。
引用
@article{arxiv.2012.04964,
title = {On Knowledge Distillation for Direct Speech Translation},
author = {Marco Gaido and Mattia A. Di Gangi and Matteo Negri and Marco Turchi},
journal= {arXiv preprint arXiv:2012.04964},
year = {2020}
}
备注
Accepted at CLiC-IT 2020