DEMN:用于故事理解的蒸馏式铺垫增强匹配网络
计算与语言
2019-01-09 v1
摘要
本文提出一种用于故事完形填空测试的蒸馏式铺垫增强匹配网络(DEMN),该任务在故事理解中仍具挑战性。我们将完整故事划分为三个叙事片段:\textit{铺垫}、\textit{高潮}与\textit{结尾}。模型由三个模块组成:输入模块、匹配模块与蒸馏模块。输入模块为三个片段提供语义表示,并将其送入另两个模块。匹配模块收集结尾与高潮之间的交互特征。蒸馏模块提炼铺垫中的关键语义信息,并以两种不同方式将其注入匹配模块。我们在 ROCStories 语料库 \cite{Mostafazadeh2016ACA} 上评估了单模型与集成模型,在测试集上分别取得 80.1\% 与 81.2\% 的准确率。实验结果表明我们的 DEMN 模型达到了 SOTA 性能。
引用
@article{arxiv.1901.02252,
title = {DEMN: Distilled-Exposition Enhanced Matching Network for Story Comprehension},
author = {Chunhua Liu and Haiou Zhang and Shan Jiang and Dong Yu},
journal= {arXiv preprint arXiv:1901.02252},
year = {2019}
}