神经符号视角下概念模型中的捷径与可识别性

概念模型是学习概念提取器将输入映射到高级概念以及推理层将这些转换为预测的神经网络。确保这些模块产生可解释的概念并在分布外可靠行为至关重要，但实现这一点的条件仍不清楚。我们通过建立概念模型与推理捷径之间的新颖联系来研究这个问题，这是一个常见问题，模型通过学习低质量概念获得高准确率，即使推理层是固定的且预先提供的。具体而言，我们将推理捷径扩展到概念模型的更复杂设置中，并推导出识别概念和推理层的理论条件。我们的经验结果强调了推理捷径的影响，并表明现有方法，即使结合多种自然缓解策略，在实践中往往无法满足这些条件。