中文

XLM:用于非自回归语言模型的 Python 软件包

计算与语言 2025-12-22 v1

摘要

近年来,非自回归文本生成在通用语言建模领域重新受到关注。与已建立的自回归语言建模范式相比,后者拥有大量标准的训练和推断库,而非自回归语言建模的实现大多是定制的,使其 difficult to perform 系统性比较。此外,每种非自回归语言模型通常需要其自己的数据校正、损失和预测逻辑,使得重用通用组件具有挑战性。本文提出了 XLM Python 软件包,旨在加快实现小型非自回归语言模型的速度,并以提供一套小型预训练模型(通过伴随的 xlm-models 软件包)供研究社区使用的 secondary goal 为目标。代码地址为 https://github.com/dhruvdcoder/xlm-core。

关键词

引用

@article{arxiv.2512.17065,
  title  = {XLM: A Python package for non-autoregressive language models},
  author = {Dhruvesh Patel and Durga Prasad Maram and Sai Sreenivas Chintha and Benjamin Rozonoyer and Andrew McCallum},
  journal= {arXiv preprint arXiv:2512.17065},
  year   = {2025}
}

备注

Code available at https://github.com/dhruvdcoder/xlm-core