解释文本片段之间的交互
计算与语言
2023-10-23 v1 人工智能
摘要
对来自输入不同部分的词元片段进行推理，对于事实核查（FC）、机器阅读理解（MRC）或自然语言推理（NLI）等自然语言理解（NLU）任务至关重要。然而，现有的基于高亮的解释主要关注识别单个重要词元或仅相邻词元间及词元元组间的交互。最值得注意的是，缺乏捕捉此类任务中用于知情决策所必需的人的决策过程（关于必要交互）的标注。为弥补这一差距，我们引入了 SpanEx，一个针对两个 NLU 任务（NLI 与 FC）的人工片段交互解释多标注者数据集。随后，我们考察了多个微调大语言模型在输入不同部分间所采用片段连接的决策过程，并将其与人的推理过程进行比较。最后，我们提出了一种基于社区检测的新颖无监督方法，用于从模型内部机制中提取此类交互解释。
引用
@article{arxiv.2310.13506,
title = {Explaining Interactions Between Text Spans},
author = {Sagnik Ray Choudhury and Pepa Atanasova and Isabelle Augenstein},
journal= {arXiv preprint arXiv:2310.13506},
year = {2023}
}
备注
code: https://github.com/copenlu/spanex , dataset: https://huggingface.co/datasets/copenlu/spanex. Accepted EMNLP 2023