自然语言推理中的泛化：超越简单启发式的方法与误区
计算与语言
2021-10-05 v1
摘要
近期自然语言理解领域的许多进展被证明源于模型学习到了特定数据集的启发式规则。我们以一系列基于 BERT 的架构（适配器、孪生 Transformer、HEX 去偏）以及通过对数据子采样和增大模型规模的方式，对 NLI 中的泛化（从 MNLI 到对抗性构建的 HANS 数据集）进行了案例研究。我们报告了 2 种成功与 3 种不成功的策略，均揭示了基于 Transformer 的模型如何学习泛化的见解。
引用
@article{arxiv.2110.01518,
title = {Generalization in NLI: Ways (Not) To Go Beyond Simple Heuristics},
author = {Prajjwal Bhargava and Aleksandr Drozd and Anna Rogers},
journal= {arXiv preprint arXiv:2110.01518},
year = {2021}
}
备注
Workshop on Insights from Negative Results (EMNLP 2021)