基于进化算法的自动化问答框架

为问答(QA)任务构建深度学习模型需要大量人力,可能需数月精心调整各种模型架构以找到最佳者。为多个数据集寻找不同的优异模型则更为困难。近期工作表明,最佳模型结构与所用数据集相关,单一模型无法适配所有任务。本文提出一种自动化问答框架,可针对多个数据集自动调整网络架构。我们的框架基于一种创新的进化算法,该算法稳定且适用于多数据集场景。用于搜索的进化算法将先验知识融入初始种群,并使用性能估计器通过预测候选模型架构的性能来避免低效变异。初始种群中使用的先验知识可改善进化算法的最终结果。性能估计器能随着试验次数增加快速筛除种群中性能不佳的模型,以加速收敛。我们的框架在 SQuAD 1.1 上取得 78.9 EM 与 86.1 F1,在 SQuAD 2.0 上取得 69.9 EM 与 72.5 F1。在 NewsQA 数据集上,所发现模型取得 47.0 EM 与 62.9 F1。