神经符号 AI 中的符号 grounding：关于推理捷径的温和介绍

神经符号（NeSy）AI旨在开发其预测符合先验知识（如安全或结构约束）的深度神经网络，代表了可靠可信 AI 的最具前景的途径之一。NeSy AI 的核心思想是结合神经和符号步骤：神经网络通常负责将低级输入映射到高级符号概念，而符号推理则推断出与提取的概念和先验知识相容的预测。尽管具有巨大潜力，但最近的研究表明，只要概念未被直接监督，NeSy 模型可能受到推理捷径（Reasoning Shortcuts, RSs）的影响，即它们可以通过错误地对概念进行 grounding 来实现高标签准确率。RSs 可能损害模型解释的可解释性，在分布外场景下的性能，从而影响可靠性。同时，除非存在概念监督，否则 RSs 难以检测和预防，这通常并非如此。在 RSs 文献分散的情况下，本概述通过提供对 RSs 的温和介绍、以直观方式讨论其原因和后果，来缓解这一问题。它还概述并阐明了该现象的既有理论特征。最后，它详细描述了处理 RSs 的方法，包括缓解和意识策略，并映射其利益和局限性。通过以易于消化的形式重新表述先进材料，本概述旨在为 RSs 提供统一视角，以降低攻克这一挑战的门槛。最终，我们希望本概述有助于开发可靠的 NeSy 和可信赖的 AI 模型。