利用名词标注改进问答循环神经网络
机器学习
2018-07-16 v1 机器学习
摘要
通常，比起调优模型并直接处理数据集，更多时间花在寻找一个表现良好的模型上。我们的研究起初试图改进由 Comcast Labs 的 Ferhan Ture 与 Oliver Jojic 开发的、使用 SimpleQuestions 数据集回答“简单”一阶问题的简单循环神经网络（QA-RNN）。他们的基线模型——一个双向 2 层 LSTM RNN 与一个 GRU RNN——在实体检测与关系预测上的准确率分别为 0.94 与 0.90。我们通过大量超参数调优对这些模型进行了微调，实体检测与关系预测的准确率分别为 0.70 与 0.80。使用 1 层 LSTM 在实体检测上获得了 0.984 的准确率，其预处理通过从问题中移除所有不属于名词块（noun chunk）的词完成。关系预测可用数据集的 100%，但实体检测仅可用数据集的 20%，我们认为这很大程度上解释了尽管我们得以改进其实体检测结果，初期仍难以复现他们结果的原因。
引用
@article{arxiv.1807.04778,
title = {Improving on Q & A Recurrent Neural Networks Using Noun-Tagging},
author = {Erik Partridge and Jack Sklar and Omar El-lakany},
journal= {arXiv preprint arXiv:1807.04778},
year = {2018}
}
备注
6 pages