中文

思维推理方式:增强类型感知以实现面向文本的广义零样本逻辑推理

人工智能 2023-01-10 v1

摘要

逻辑推理任务涉及基于多项选择问答形式、对文本进行的多种复杂推理类型。给定上下文、问题及一组选项作为输入,以往方法在全数据设定下取得了优越性能。然而,当前基准数据集存在一个理想假设,即训练集与测试集的推理类型分布相近,这与许多真实应用场景不一致。为此,仍有两方面问题有待研究:(1) 模型的零样本能力如何(在已见类型上训练、在未见类型上测试)?(2) 如何增强模型对推理类型的感知?针对问题1,我们提出一个名为 ZsLR 的广义零样本逻辑推理新基准,其基于三种类型采样策略包含六个划分。针对问题2,提出一种类型感知模型 TaCo,它利用启发式输入重构与对比学习来提升全局表示中的类型感知。在零样本与全数据设定下的大量实验证明了 TaCo 相对于最先进方法的优越性。此外,我们在其他逻辑推理数据集上实验并验证了 TaCo 的泛化能力。

关键词

引用

@article{arxiv.2301.02983,
  title  = {Mind Reasoning Manners: Enhancing Type Perception for Generalized Zero-shot Logical Reasoning over Text},
  author = {Fangzhi Xu and Jun Liu and Qika Lin and Tianzhe Zhao and Jian Zhang and Lingling Zhang},
  journal= {arXiv preprint arXiv:2301.02983},
  year   = {2023}
}

备注

12 pages, 7 figures