行善还是行对？探究常识因果推理模型的弱点
计算与语言
2025-06-26 v1
摘要
预训练语言模型（PLM）在合理备选项选择（COPA）任务上取得了令人惊讶的性能。然而，PLM 是否真正获得了因果推理能力仍存疑问。本文中，我们研究了语义相似度偏差问题，并通过特定攻击揭示了当前 COPA 模型的脆弱性。先前解决非平衡词元分布表面线索的方案仍遭遇同样的语义偏差问题，甚至因使用更多训练数据而更为严重。我们通过简单添加正则化损失缓解了此问题，实验结果表明该方案不仅提升了模型的泛化能力，还帮助模型在具有无偏词元分布、且对模型区分因果更困难的挑战性数据集 BCOPA-CE 上更鲁棒地表现。
引用
@article{arxiv.2107.01791,
title = {Doing Good or Doing Right? Exploring the Weakness of Commonsense Causal Reasoning Models},
author = {Mingyue Han and Yinglin Wang},
journal= {arXiv preprint arXiv:2107.01791},
year = {2025}
}
备注
ACL2021, Main Conference, Short Paper