Product-of-Experts 训练减少自然语言推理中的数据数据 artifact
计算与语言
2026-04-22 v1 人工智能
摘要
神经 NLI 模型会对数据 artifact 过拟合，而非真正进行推理。假设-only 模型在 SNLI 上得分 57.7%，显示出强烈的虚假关联，而 38.6% 的 baseline 错误是由这些 artifact 造成的。我们提出 Product-of-Experts (PoE) 训练，该方法对偏置模型过于自信的样本进行降权。PoE 几乎保持准确率 (89.10% vs. 89.30%)，同时将偏置依赖性降低 4.71%（偏置一致性从 49.85% 降至 45%）。通过消融实验发现 lambda = 1.5 在去偏和准确率之间实现最佳平衡。行为测试仍然揭示了否定和数值推理方面的问题。
引用
@article{arxiv.2604.19069,
title = {Product-of-Experts Training Reduces Dataset Artifacts in Natural Language Inference},
author = {Aby Mammen Mathew},
journal= {arXiv preprint arXiv:2604.19069},
year = {2026}
}
备注
10 pages, 3 figures, 4 tables. Single-author paper