利用上下文感知变分自编码器对事件背景建模以进行 If-Then 常识推理
计算与语言
2019-12-03 v3 人工智能
机器学习
摘要
理解事件及以事件为中心的常识推理对自然语言处理(NLP)至关重要。给定一个观测事件,人类可以轻易推断其意图与效果,而此类 If-Then 推理对 NLP 系统而言仍具挑战性。为此,提出了 If-Then 常识推理数据集 Atomic,以及基于 RNN 的 Seq2Seq 模型来进行此类推理。然而,两个基本问题仍待解决:第一,一个事件的意图可能多个,而基于 RNN 的 Seq2Seq 模型的生成结果语义上总是相近;第二,事件背景的外部知识可能对理解事件及进行 If-Then 推理是必要的。为解决这些问题,我们提出了一种新颖的上下文感知变分自编码器,有效学习事件背景信息以引导 If-Then 推理。实验结果表明,与最先进的基线方法相比,我们的方法提升了推理的准确率与多样性。
引用
@article{arxiv.1909.08824,
title = {Modeling Event Background for If-Then Commonsense Reasoning Using Context-aware Variational Autoencoder},
author = {Li Du and Xiao Ding and Ting Liu and Zhongyang Li},
journal= {arXiv preprint arXiv:1909.08824},
year = {2019}
}