用于鲁棒泛化的机器阅读理解系统集成中基模型权重的零样本估计
计算与语言
2021-07-01 v1
摘要
机器阅读理解(MRC)模型的主要挑战之一是其脆弱的域外泛化能力,这使得这些模型无法恰当地应用于现实世界的通用问答问题。在本文中,我们利用一种零样本加权集成方法来提升 MRC 模型域外泛化的鲁棒性。在所提方法中,使用一个权重估计模块来估计域外权重,并由一个集成模块基于各基模型的权重聚合它们的预测。实验表明,所提方法不仅提升了最终准确率,而且对领域变化具有鲁棒性。
引用
@article{arxiv.2106.16013,
title = {Zero-Shot Estimation of Base Models' Weights in Ensemble of Machine Reading Comprehension Systems for Robust Generalization},
author = {Razieh Baradaran and Hossein Amirkhani},
journal= {arXiv preprint arXiv:2106.16013},
year = {2021}
}