绕开捷径、虚假关联与混淆因素：从起源、检测到缓解的全景视角
机器学习
2024-12-09 v1 人工智能
摘要
捷径（亦称“聪明曼”行为）、虚假关联或混淆因素在机器学习与人工智能领域构成重大挑战，严重影响模型的泛化能力与鲁棒性。该领域的研究仍零散分散，不同术语交织使用，阻碍了整体领域进展。为此，我们提出一种统一的捷径学习分类框架，给出捷径的正式定义，并搭建桥梁连接该领域的多项相关研究，包括偏见、因果推断与安全领域，其中许多关联却鲜有讨论。我们的分类框架组织了现有捷径检测与缓解方法，提供了当前领域的全面概览，揭示了未被充分探索的领域与开放挑战。此外，我们整理并归类了针对捷径学习的专门数据集。总体而言，本工作提供了整体视角，深化对捷径在机器学习中理解，推动开发更有效策略的发展。
引用
@article{arxiv.2412.05152,
title = {Navigating Shortcuts, Spurious Correlations, and Confounders: From Origins via Detection to Mitigation},
author = {David Steinmann and Felix Divo and Maurice Kraus and Antonia Wüst and Lukas Struppek and Felix Friedrich and Kristian Kersting},
journal= {arXiv preprint arXiv:2412.05152},
year = {2024}
}