通过两阶段对比学习改进词翻译

词翻译或双语词典归纳（BLI）是一项关键的跨语言任务，旨在弥合不同语言之间的词汇鸿沟。在这项工作中，我们提出了一种用于 BLI 任务的鲁棒且有效的两阶段对比学习框架。在阶段 C1，我们提出通过对比学习目标来精炼静态词嵌入（WEs）之间的标准跨语言线性映射；我们还展示了如何将其整合到自学习过程中以获得更精炼的跨语言映射。在阶段 C2，我们对 mBERT 进行面向 BLI 的对比微调，释放其词翻译能力。我们还表明，从“C2 微调”的 mBERT 导出的静态 WEs 补充了阶段 C1 的静态 WEs。在多种语言和不同实验设置下的标准 BLI 数据集上的综合实验表明，我们的框架取得了显著增益。虽然阶段 C1 的 BLI 方法在我们比较中已比所有最先进的 BLI 方法取得显著增益，但完整的两阶段框架带来了更强的改进：例如，我们报告了涵盖 28 个语言对的 112/112 个 BLI 设置上的增益。