Gestalt：一种用于 SQuAD2.0 的堆叠集成方法
计算与语言
2020-04-16 v1 机器学习
机器学习
摘要
我们提出一个深度学习系统——面向 SQuAD2.0 任务——用于在上下文段落中寻找或指明正确答案的缺失。我们的目标是学习一个异构 SQuAD2.0 模型的集成，当恰当混合时，其性能优于集成中最佳的单一模型。我们创建了一个堆叠集成，将基于 ALBERT 和 RoBERTa 的两个模型的 top-N 预测组合为一个多类分类任务，以从它们的预测中选出最佳答案。我们探索了多种集成配置、输入表示和模型架构。在评估中，我们考察了测试集的 EM 和 F1 分数；我们性能最佳的集成采用基于 CNN 的元模型，分别得分为 87.117 和 90.306——与集成中最佳模型（一个基于 ALBERT 的模型，EM 为 86.644、F1 为 89.760）的基线性能相比，EM 相对提升 0.55%，F1 相对提升 0.61%。
引用
@article{arxiv.2004.07067,
title = {Gestalt: a Stacking Ensemble for SQuAD2.0},
author = {Mohamed El-Geish},
journal= {arXiv preprint arXiv:2004.07067},
year = {2020}
}
备注
11 pages, 7 figures, Stanford CS224n Natural Language Processing with Deep Learning