用于脚本生成的层次化量化表示
计算与语言
2018-08-30 v1
摘要
脚本定义了关于日常场景（如去餐厅）应如何展开的知识。学习脚本的挑战之一在于知识的层次性。例如，一名被捕嫌疑犯可能辩称无罪或有罪，此后预期会发生截然不同的事件轨迹。为捕捉此类信息，我们提出一种自编码器模型，其潜空间由层次化类别变量定义。我们采用近期提出的基于向量量化的方法，使连续嵌入可与每个潜变量取值相关联。这使得解码器可通过在给定设定下对取值嵌入进行注意力机制，软性地决定以潜层层次的哪些部分为条件。我们的模型有效编码并生成脚本，在多项标准任务上优于近期基于语言建模的方法，并使自编码器模型相比先前基于语言建模的方法取得显著更低的困惑度分数。
引用
@article{arxiv.1808.09542,
title = {Hierarchical Quantized Representations for Script Generation},
author = {Noah Weber and Leena Shekhar and Niranjan Balasubramanian and Nathanael Chambers},
journal= {arXiv preprint arXiv:1808.09542},
year = {2018}
}
备注
EMNLP 2018