对抗式传播与词向量专门化的零样本跨语言迁移

语义专门化是利用外部词汇知识（如 WordNet）对预训练的分布词向量进行微调，以在专门化向量空间中凸显特定语义关系的过程。虽然后处理专门化方法适用于任意分布词向量，但它们仅限于更新出现在外部词典（即已见词）中的词向量，而保持所有其他词的向量不变。我们提出了一种专门化完整分布词汇表的新方法。我们的对抗式后专门化方法将外部词汇知识传播到完整的分布空间。我们利用资源中已见的词作为训练样本来学习一个全局专门化函数。该函数通过结合标准 L2 距离损失与对抗损失来学习：对抗分量产生更真实的输出向量。我们在三种语言和三项任务（词相似度、对话状态跟踪和词汇简化）上展示了所提方法的有效性与鲁棒性。我们报告了相对于分布词向量及其他最先进专门化框架专门化的向量的一致改进。最后，我们还提出了一种用于零样本专门化的跨语言迁移方法，该方法无需目标语言中的任何词汇知识且无需任何双语数据，即可成功专门化完整的目标分布空间。