需要什么知识? 面向kNN-MT领域自适应的可解释记忆
计算与语言
2022-12-21 v2
摘要
kNN-MT通过构建外部数据存储提供了一种领域自适应的新范式,该存储通常保存平行语料中所有目标语言词符出现项。因此,所构建的数据存储通常庞大且可能存在冗余。本文中,我们研究该方法的可解释性问题: NMT模型需要什么知识? 我们提出局部正确性(LAC)这一概念作为一个新视角,其描述单条条目在给定邻域下的潜在翻译正确性。实证研究表明,我们的探究成功找到了NMT模型容易失败并需要相关知识的条件。在六个不同目标领域和两种语言对上的实验表明,依据局部正确性进行剪枝为kNN-MT领域自适应带来了轻量且更具可解释性的记忆。
引用
@article{arxiv.2211.04052,
title = {What Knowledge Is Needed? Towards Explainable Memory for kNN-MT Domain Adaptation},
author = {Wenhao Zhu and Shujian Huang and Yunzhe Lv and Xin Zheng and Jiajun Chen},
journal= {arXiv preprint arXiv:2211.04052},
year = {2022}
}