通过自动尺寸调整提升效率：圣母大学 NLP 团队在 WNGT 2019 效率任务上的提交
计算与语言
2019-10-17 v1
摘要
本文描述了圣母大学自然语言处理组（NDNLP）向 WNGT 2019 共享任务（Hayashi 等人，2019）提交的系统。我们研究了自动尺寸调整（Murray 和 Chiang，2015；Murray 等人，2019）对 Transformer 网络（Vaswani 等人，2017）的影响，目标是大幅减少模型中的参数数量。我们的方法能够消除超过 25% 的模型参数，而 BLEU 值仅下降 1.1。
引用
@article{arxiv.1910.07134,
title = {Efficiency through Auto-Sizing: Notre Dame NLP's Submission to the WNGT 2019 Efficiency Task},
author = {Kenton Murray and Brian DuSell and David Chiang},
journal= {arXiv preprint arXiv:1910.07134},
year = {2019}
}
备注
The 3rd Workshop on Neural Generation and Translation (WNGT 2019)