评估面向大规模多语言语义解析的字节级与 WordPiece 级模型
计算与语言
2022-12-15 v1
摘要
无分词方法已成功应用于一系列词级与跨度级任务。在本工作中，我们在 MASSIVE 多语言语义解析数据集的 51 种语言上，比较了字节级（ByT5）与基于 wordpiece（mT5）的序列到序列模型。我们考察了多种实验设置：(i) 零样本，(ii) 全量黄金数据，以及 (iii) 带合成数据的零样本。通过利用针对机器翻译样本的先进标签投影方法，我们能够将精确匹配准确率相对于在所有语言黄金数据上训练的模型的差距缩小至仅 5 个百分点。我们还提供了关于 ByT5 跨语言迁移的见解，并展示了该模型在不同参数规模下相对于 mT5 的表现。
引用
@article{arxiv.2212.07223,
title = {Evaluating Byte and Wordpiece Level Models for Massively Multilingual Semantic Parsing},
author = {Massimo Nicosia and Francesco Piccinno},
journal= {arXiv preprint arXiv:2212.07223},
year = {2022}
}
备注
Massively Multilingual NLU 2022 Workshop Paper @ EMNLP 2022 - Winning approach of the MMNLU-22 Zero-Shot Challenge