“无证工人”等同于“非法外侨”吗？在向量空间中解耦指称与内涵
计算与语言
2020-10-27 v2
摘要
在政治中，新词常因党派目的而被创造。例如，“undocumented workers（无证工人）”与“illegal aliens（非法外侨）”指代同一群体（即它们具有相同的指称），但带有明显不同的内涵。此类例子传统上对基于指称的语义理论构成了挑战，并导致哲学家与认知科学家中替代理论（如双因素语义学）的接受度日益提高。然而在 NLP 中，流行的预训练模型将指称与内涵编码为单一纠缠的表示。在本研究中，我们提出一种对抗式神经网络，将预训练表示分解为独立的指称表示与内涵表示。就内在可解释性而言，我们展示了具有相同指称但不同内涵的词（如“immigrants”与“aliens”、“estate tax”与“death tax”）在指称空间中彼此靠近，而在内涵空间中彼此远离。就外在应用而言，我们使用解耦表示训练了一个信息检索系统，并表明指称向量改善了文档排序的观点多样性。
引用
@article{arxiv.2010.02976,
title = {Are "Undocumented Workers" the Same as "Illegal Aliens"? Disentangling Denotation and Connotation in Vector Spaces},
author = {Albert Webson and Zhizhong Chen and Carsten Eickhoff and Ellie Pavlick},
journal= {arXiv preprint arXiv:2010.02976},
year = {2020}
}
备注
Published at EMNLP 2020. Recorded talk available at https://youtu.be/V2pdS6Y_8n0 . Code and data available at https://github.com/awebson/congressional_adversary