穿越捷径迷宫：语言模型文本分类中捷径学习的全面分析
计算与语言
2024-11-13 v1 机器学习
摘要
语言模型（Language Models, LMs）尽管取得了进步，但常常依赖于虚假相关性，这损害了其准确性和泛化能力。本研究探讨了那些比过度简化的捷径更微妙、更复杂，并损害模型可靠性的捷径所带来的被忽视的影响。我们引入了一个全面的基准，将捷径分为出现、风格和概念三类，旨在探索这些捷径影响语言模型性能的细微方式。通过在传统语言模型、大型语言模型和最先进的鲁棒模型上进行广泛实验，我们的研究系统地调查了模型对复杂捷径的鲁棒性和敏感性。我们的基准和代码可在以下链接找到：https://github.com/yuqing-zhou/shortcut-learning-in-text-classification。
引用
@article{arxiv.2409.17455,
title = {Navigating the Shortcut Maze: A Comprehensive Analysis of Shortcut Learning in Text Classification by Language Models},
author = {Yuqing Zhou and Ruixiang Tang and Ziyu Yao and Ziwei Zhu},
journal= {arXiv preprint arXiv:2409.17455},
year = {2024}
}