中文

kNN-BOX:面向最近邻生成的统一框架

计算与语言 2023-02-28 v1

摘要

以词元级符号数据存储增强基础神经模型是一种新颖的生成范式,并在机器翻译(MT)中取得了有前景的结果。本文介绍统一框架kNN-BOX,可助力该新范式的快速开发与交互式分析。kNN-BOX将数据存储增强方法解耦为三个模块:数据存储、检索器与组合器,从而将多样的kNN生成方法纳入统一流程。目前,kNN-BOX已实现七种流行的kNN-MT变体,涵盖从性能增强到效率优化的研究。用户可轻松复现这些已有工作或定制自己的模型。此外,用户可通过kNN-BOX与其kNN生成系统交互,以可视化方式更好地理解底层推理过程。在实验部分,我们将kNN-BOX应用于机器翻译及另外三项seq2seq生成任务,即文本简化、复述生成与问题生成。实验结果表明,以kNN-BOX增强基础神经模型可在所有任务中带来大幅性能提升。kNN-BOX的代码与文档见https://github.com/NJUNLP/knn-box。

关键词

引用

@article{arxiv.2302.13574,
  title  = {kNN-BOX: A Unified Framework for Nearest Neighbor Generation},
  author = {Wenhao Zhu and Qianfeng Zhao and Yunzhe Lv and Shujian Huang and Siheng Zhao and Sizhe Liu and Jiajun Chen},
  journal= {arXiv preprint arXiv:2302.13574},
  year   = {2023}
}