Mark-Evaluate:使用种群估计方法评估语言生成
计算与语言
2020-10-12 v1 人工智能
机器学习
摘要
我们提出一类源自生态学中广泛使用的种群估计方法来评估语言生成的度量。更具体地,我们使用过去几十年中用于估计野外封闭种群规模的标记重捕和最大似然方法。我们提出三个新颖度量:ME 和 ME,它们给出单值评估,以及 ME,它返回一个双值度量以分别就质量和多样性评估评估集。在合成实验中,我们的方法族对质量和多样性的下降敏感。此外,在若干具有挑战性的任务(即无条件语言生成、机器翻译和文本摘要)上,我们的方法比现有度量显示出与人工评估更高的相关性。
引用
@article{arxiv.2010.04606,
title = {Mark-Evaluate: Assessing Language Generation using Population Estimation Methods},
author = {Gonçalo Mordido and Christoph Meinel},
journal= {arXiv preprint arXiv:2010.04606},
year = {2020}
}
备注
Accepted at COLING 2020