面向细粒度实体类型分类的神经架构
计算与语言
2017-02-22 v2
摘要
本文中,我们研究了若干用于细粒度实体类型分类的神经网络架构。特别地,我们考虑了对最近提出的一种注意力神经架构的扩展,并做出了三项关键贡献。以往关于注意力神经架构的工作未考虑人工构造的特征,我们将学习得到的特征与人工构造的特征相结合,并观察到二者互为补充。此外,通过定量分析,我们证实注意力机制能够学会关注句法中心词以及包含实体提及的短语,而这两者均为本任务已知的强人工构造特征。我们通过一种层次化标签编码方法实现参数共享,该方法在低维投影中为每个类型层次显示出清晰的聚类。最后,尽管使用相同的评估数据集,文献中经常比较使用不同数据训练的模型。我们证实,训练数据的选择对性能有显著影响,对于一种先前提出的方法,宽松微观 F1 分数下降幅度高达 9.85%。尽管如此,我们的最佳模型在公认的 FIGER (GOLD) 数据集上取得了 75.36% 宽松微观 F1 分数的当前最优结果。
引用
@article{arxiv.1606.01341,
title = {Neural Architectures for Fine-grained Entity Type Classification},
author = {Sonse Shimaoka and Pontus Stenetorp and Kentaro Inui and Sebastian Riedel},
journal= {arXiv preprint arXiv:1606.01341},
year = {2017}
}
备注
10 pages, 3 figures, accepted at EACL2017 conference