COSMO:基于条件 SEQ2SEQ 的混合模型用于零样本常识问答
计算与语言
2020-11-03 v1
摘要
常识推理是指评估社会情境并据此行动的能力。识别社会语境中隐性的因果关系是使机器能够执行常识推理的驱动能力。社会互动的动态世界需要依赖于上下文的按需系统来推断此类底层信息。然而,当前该领域的方法缺乏在面对未见情境时进行常识推理的能力,主要由于无法识别多样化的隐性社会关系,因而未能估计正确的推理路径。本文提出基于条件 SEQ2SEQ 的混合模型(COSMO),其为我们提供了动态且多样化内容生成的能力。我们利用 COSMO 生成依赖于上下文的从句,这些从句即时构成一个动态知识图(KG)用于常识推理。为展示我们的模型对上下文依赖知识生成的适应性,我们处理了零样本常识问答任务。实证结果表明,相较最先进模型取得了最高达 +5.2% 的提升。
引用
@article{arxiv.2011.00777,
title = {COSMO: Conditional SEQ2SEQ-based Mixture Model for Zero-Shot Commonsense Question Answering},
author = {Farhad Moghimifar and Lizhen Qu and Yue Zhuo and Mahsa Baktashmotlagh and Gholamreza Haffari},
journal= {arXiv preprint arXiv:2011.00777},
year = {2020}
}
备注
COLING2020