充分利用 ChatGPT 进行机器翻译的探索
计算与语言
2023-10-23 v4
摘要
ChatGPT 在机器翻译（MT）中展现出卓越能力。若干先前研究表明，在高资源语言上其结果与商业系统相当，但在低资源与远距离语言对等复杂任务上落后。然而，它们通常采用简单提示，无法充分激发 ChatGPT 的能力。本文旨在通过重新审视温度、任务信息与领域信息几个方面，进一步挖掘 ChatGPT 的翻译能力，并相应提出最优温度设置与两种（简单但有效的）提示：任务特定提示（TSP）与领域特定提示（DSP）。我们表明：1）ChatGPT 的性能在很大程度上取决于温度，较低温度通常能获得更好性能；2）强调任务信息可进一步提升 ChatGPT 在复杂 MT 任务中的表现；3）引入领域信息可激发 ChatGPT 的泛化能力并改善其在特定领域的表现；4）ChatGPT 在非英语中心 MT 任务中易产生幻觉，我们提出的提示可部分缓解但仍有待 MT/NLP 界重视。我们还探究了先进上下文学习策略的影响，并发现一个（负面但有趣的）现象：强大的思维链提示导致逐词翻译行为，从而带来显著的翻译退化。
引用
@article{arxiv.2303.13780,
title = {Towards Making the Most of ChatGPT for Machine Translation},
author = {Keqin Peng and Liang Ding and Qihuang Zhong and Li Shen and Xuebo Liu and Min Zhang and Yuanxin Ouyang and Dacheng Tao},
journal= {arXiv preprint arXiv:2303.13780},
year = {2023}
}
备注
EMNLP 2023 (findings)