XLM:用于非自回归语言模型的 Python 软件包
计算与语言
2025-12-22 v1
摘要
近年来,非自回归文本生成在通用语言建模领域重新受到关注。与已建立的自回归语言建模范式相比,后者拥有大量标准的训练和推断库,而非自回归语言建模的实现大多是定制的,使其 difficult to perform 系统性比较。此外,每种非自回归语言模型通常需要其自己的数据校正、损失和预测逻辑,使得重用通用组件具有挑战性。本文提出了 XLM Python 软件包,旨在加快实现小型非自回归语言模型的速度,并以提供一套小型预训练模型(通过伴随的 xlm-models 软件包)供研究社区使用的 secondary goal 为目标。代码地址为 https://github.com/dhruvdcoder/xlm-core。
关键词
引用
@article{arxiv.2512.17065,
title = {XLM: A Python package for non-autoregressive language models},
author = {Dhruvesh Patel and Durga Prasad Maram and Sai Sreenivas Chintha and Benjamin Rozonoyer and Andrew McCallum},
journal= {arXiv preprint arXiv:2512.17065},
year = {2025}
}
备注
Code available at https://github.com/dhruvdcoder/xlm-core