可视化显而易见之物:基于具体性度量的名词属性集成预测模型
计算与语言
2022-10-25 v1
摘要
神经语言模型编码了关于实体及其关系的丰富知识,可利用探针从其表示中提取。然而,名词的共性属性(如红色的草莓、微小的蚂蚁)相较于其他类型的知识更难以提取,因为它们很少在文本中被明确陈述。我们假设这主要适用于对交际参与者而言显而易见的感知属性。我们提出从图像中提取这些属性,并将其用于一个集成模型,以补充从语言模型中提取的信息。我们认为感知属性比抽象属性(如有趣的、完美的)更具具体性。我们提出使用形容词的具体性得分作为调节各来源(文本 vs. 图像)贡献的杠杆。我们在一个排序任务中评估我们的集成模型,该任务要求将名词的实际属性排得高于其他不相关属性。结果表明,所提出的文本与图像组合相较强大的基于文本的语言模型大幅改进了名词属性预测。
引用
@article{arxiv.2210.12905,
title = {Visualizing the Obvious: A Concreteness-based Ensemble Model for Noun Property Prediction},
author = {Yue Yang and Artemis Panagopoulou and Marianna Apidianaki and Mark Yatskar and Chris Callison-Burch},
journal= {arXiv preprint arXiv:2210.12905},
year = {2022}
}
备注
Findings of EMNLP 2022; The first two authors contributed equally