LaDA:面向零样本跨语言神经网络语言建模的潜在对话动作
计算与语言
2023-08-08 v1
摘要
跨语言适配在资源有限的口语理解(SLU)系统中已被证明是有效的。现有方法在意图检测与槽填充上常不能令人满意,尤其是对于在文字系统、形态和句法上与源语言差异显著的远距离语言。本文提出潜在对话动作(LaDA)层,以优化解码策略从而解决上述问题。该模型由一层额外的潜在对话动作组成。它使我们的模型能够提升系统处理具有复杂多语言意图及远距离语言槽值对话的能力。据我们所知,这是首次对解码阶段利用潜在变量优化跨语言 SLU 策略的详尽研究。LaDA 在公开数据集的零样本与少样本适配上均取得了最先进(SOTA)结果。
引用
@article{arxiv.2308.02903,
title = {LaDA: Latent Dialogue Action For Zero-shot Cross-lingual Neural Network Language Modeling},
author = {Zhanyu Ma and Jian Ye and Shuang Cheng},
journal= {arXiv preprint arXiv:2308.02903},
year = {2023}
}
备注
Accepted In Proceedings of Cognitive Science Society Annual Conference (CogSci) 2023