GL-CLeF：一种用于跨语言口语理解的全局-局部对比学习框架
计算与语言
2022-04-19 v1
摘要
由于当前方法的高数据需求，对零样本跨语言口语理解（SLU）的关注日益增长，因为此类方法大幅减少人工标注工作量。然而，现有模型仅依赖共享参数，只能跨语言进行隐式对齐。我们提出全局-局部对比学习框架（GL-CLeF）以解决该缺陷。具体而言，我们采用对比学习，利用双语词典构建同一话语的多语言视图，然后促使它们的表示比负例对更相似，从而实现跨语言相似句子的显式对齐表示。此外，GL-CLeF 的一个关键步骤是所提出的局部与全局组件，其实现了细粒度跨语言迁移（即句子级局部意图迁移、词元级局部槽位迁移，以及跨意图与槽位的语义级全局迁移）。在 MultiATIS++ 上的实验表明，GL-CLeF 取得了最佳性能，并成功将跨语言相似句子的表示拉得更近。
引用
@article{arxiv.2204.08325,
title = {GL-CLeF: A Global-Local Contrastive Learning Framework for Cross-lingual Spoken Language Understanding},
author = {Libo Qin and Qiguang Chen and Tianbao Xie and Qixin Li and Jian-Guang Lou and Wanxiang Che and Min-Yen Kan},
journal= {arXiv preprint arXiv:2204.08325},
year = {2022}
}
备注
Accepted at ACL2022 Main Conference