面向零样本跨域槽填充的自适应端到端度量学习
计算与语言
2023-10-25 v1
摘要
近年来，得益于深度学习和大规模标注数据的可用性，槽填充取得了巨大进展。然而，处理训练期间从未见过样本的新领域构成了关键挑战。由于严重的领域偏移，识别性能可能大幅退化。大多数先前工作基于度量学习以两遍流水线方式处理该问题。实践中，这些主导的流水线模型可能因非并行推理与上下文无关的离散标签嵌入而在计算效率和泛化能力上受限。为此，我们重新审视典型的基于度量的方法，并提出一种针对极具挑战性的零样本槽填充的新自适应端到端度量学习方案。考虑简洁性、效率与可泛化性，我们提出了一种级联式联合学习框架，结合上下文感知软标签表示与槽级对比表示学习，以有效缓解数据与标签偏移问题。在公开基准上的大量实验证明了所提方法相对于一系列有竞争力基线的优越性。
引用
@article{arxiv.2310.15294,
title = {Adaptive End-to-End Metric Learning for Zero-Shot Cross-Domain Slot Filling},
author = {Yuanjun Shi and Linzhi Wu and Minglai Shao},
journal= {arXiv preprint arXiv:2310.15294},
year = {2023}
}
备注
Accepted to EMNLP 2023 (Main, Long Paper)