Word2Box：利用盒嵌入刻画词语的集合论语义
计算与语言
2022-06-09 v2 人工智能
摘要
在连续空间中学习词语的表示或许是 NLP 中最基础的任务，然而词语以远比向量点积相似度所能提供更为丰富的方式相互作用。许多词语间的关系可借由集合论表达，例如，形容词-名词复合词（如“red cars”“cars”）与同形异义词（如“tongue”“body”应类似于“mouth”，而“tongue”“language”应类似于“dialect”）具有自然的集合论解释。盒嵌入是一种新颖的基于区域的表示，提供了执行这些集合论操作的能力。本工作中，我们给出盒嵌入的模糊集解释，并使用集合论训练目标学习词语的盒表示。我们展示了在各类词语相似度任务上性能的提升，尤其在不常见词语上，并开展定量与定性分析以探究 Word2Box 所提供的额外独特表达能力。
引用
@article{arxiv.2106.14361,
title = {Word2Box: Capturing Set-Theoretic Semantics of Words using Box Embeddings},
author = {Shib Sankar Dasgupta and Michael Boratko and Siddhartha Mishra and Shriya Atmakuri and Dhruvesh Patel and Xiang Lorraine Li and Andrew McCallum},
journal= {arXiv preprint arXiv:2106.14361},
year = {2022}
}