中文

MT-LENS:用于更好机器翻译评估的全能工具包

计算与语言 2024-12-17 v1

摘要

我们介绍MT-LENS,一个旨在评估机器翻译(MT)系统在各种任务上的框架,包括翻译质量、性别偏见检测、附加毒性和对拼写错误的鲁棒性。虽然一些工具包在基准测试大型语言模型(LLM)的能力方面变得非常流行,但现有的评估工具通常缺乏全面评估MT性能不同方面的能力。MT-LENS通过扩展LM-eval-harness用于MT的能力,支持最先进的数据集和广泛的评估指标,解决了这些限制。它还提供了一个用户友好的平台来比较系统和分析翻译,并具有交互式可视化。MT-LENS旨在拓宽对超越传统翻译质量评估的评估策略的访问,使研究人员和工程师能够更好地理解NMT模型的性能,并轻松测量系统的偏见。

关键词

引用

@article{arxiv.2412.11615,
  title  = {MT-LENS: An all-in-one Toolkit for Better Machine Translation Evaluation},
  author = {Javier García Gilabert and Carlos Escolano and Audrey Mash and Xixian Liao and Maite Melero},
  journal= {arXiv preprint arXiv:2412.11615},
  year   = {2024}
}

备注

6 pages, 2 figures