神经符号推理捷径：缓解策略及其局限性
人工智能
2023-03-23 v1 机器学习
摘要
神经符号预测器学习从亚符号输入到高层概念的映射，然后在该中间表示上执行(概率)逻辑推理。这一设置在与符号先验知识的一致性方面具有明显优势，并常被认为可提供可解释性益处——由于遵从知识，习得的概念能被人类利益相关者更好地理解。然而，最近研究表明该设置受到推理捷径的影响，即预测通过利用具有非预期语义的概念获得高准确率，导致分布外性能差并损害可解释性。在这篇短文中，我们建立推理捷径与损失函数最优解之间的形式化联系，并识别推理捷径可能出现的情况。基于此，我们讨论重建与概念监督等自然缓解策略的局限性。
引用
@article{arxiv.2303.12578,
title = {Neuro-Symbolic Reasoning Shortcuts: Mitigation Strategies and their Limitations},
author = {Emanuele Marconato and Stefano Teso and Andrea Passerini},
journal= {arXiv preprint arXiv:2303.12578},
year = {2023}
}