接纳歧义：转变NLI模型的训练目标
计算与语言
2021-06-08 v1
摘要
自然语言推理（NLI）数据集包含标注高度歧义的样例。尽管许多研究工作未充分关注这一事实，近期已有若干努力承认并接纳歧义的存在，如UNLI与ChaosNLI。本文中，我们探索在NLI任务中直接基于标注者的估计标签分布进行训练的方案，采用基于该歧义分布而非金标签的学习损失。我们构建了AmbiNLI——一个源自现有资源的试验数据集，并表明在此数据上微调能够降低ChaosNLI分歧分数，这是迈向学习捕捉语言歧义的有希望的第一步。此外，我们表明在同等数据量下以歧义分布而非金标签为训练目标，可得到在下游任务中取得更优性能并学习到更好表示的模型。
引用
@article{arxiv.2106.03020,
title = {Embracing Ambiguity: Shifting the Training Target of NLI Models},
author = {Johannes Mario Meissner and Napat Thumwanit and Saku Sugawara and Akiko Aizawa},
journal= {arXiv preprint arXiv:2106.03020},
year = {2021}
}
备注
Accepted to ACL 2021