基于随机权重平均的不确定性感知自然语言推理
计算与语言
2023-04-11 v1
摘要
本文在自然语言理解（NLU）任务中引入使用随机权重平均-高斯（SWAG）的贝叶斯不确定性建模。我们将该方法应用于自然语言推理（NLI）中的标准任务，并从预测准确率和与人工标注不一致的相关性方面证明方法的有效性。我们认为SWAG中的不确定性表示更好地反映了主观解释以及同样存在于人类语言理解中的自然变异。结果揭示了不确定性建模（神经语言建模中常被忽视的一个方面）在NLU任务中的重要性。
引用
@article{arxiv.2304.04726,
title = {Uncertainty-Aware Natural Language Inference with Stochastic Weight Averaging},
author = {Aarne Talman and Hande Celikkanat and Sami Virpioja and Markus Heinonen and Jörg Tiedemann},
journal= {arXiv preprint arXiv:2304.04726},
year = {2023}
}
备注
NoDaLiDa 2023 camera ready