CATfOOD: 用于提升分布外性能与校准能力的反事实增强训练
计算与语言
2024-02-14 v3
摘要
近年来，大语言模型（LLMs）在规模化条件下展现出卓越能力，尤其在基于提示生成文本方面。在我们的工作中，我们研究了利用 LLMs 为小语言模型（SLMs）自动生成反事实（CF）样本（即最小改动的输入）以增强其训练数据，从而提升 SLMs 在抽取式问答（QA）设定下的分布外（OOD）性能。我们表明，在各种 LLM 生成器下，此类数据增强一致地提升了 OOD 性能，并改善了基于置信度与基于原理增强的校准器模型的模型校准。此外，这些性能提升与 CF 样本在表层形式与语义内容上的更高多样性相关。最后，我们表明，更易校准的 CF 增强模型在分配重要性时也表现出更低的熵，这表明原理增强校准器偏好简洁的解释。
引用
@article{arxiv.2309.07822,
title = {CATfOOD: Counterfactual Augmented Training for Improving Out-of-Domain Performance and Calibration},
author = {Rachneet Sachdeva and Martin Tutek and Iryna Gurevych},
journal= {arXiv preprint arXiv:2309.07822},
year = {2024}
}
备注
Accepted to EACL 2024 main conference