包含符号层的深度神经网络中的符号正确性
机器学习
2024-02-07 v1 人工智能
摘要
为了处理结合感知与逻辑推理的 AI 任务，近期工作引入了神经符号深度神经网络 (NS-DNN)，它除了传统的神经层外，还包含符号层：即在推理过程中由符号求解器评估的符号表达式（例如 SAT 公式、逻辑程序）。我们识别并形式化了一个直观的高层原则，该原则可以指导 NS-DNN 的设计与分析：符号正确性，即神经层预测的中间符号相对于输入数据的（通常未知的）真实符号表示的正确性。我们证明，符号正确性是 NS-DNN 可解释性和迁移学习的一个必要属性（尽管通常无法为此进行训练）。此外，我们表明，符号正确性框架提供了一种精确的方式来推理和沟通神经-符号边界处的模型行为，并洞察了 NS-DNN 训练算法所面临的基本权衡。通过这样做，我们既指出了先前工作中重要的模糊之处，也为支持进一步的 NS-DNN 发展提供了一个框架。
引用
@article{arxiv.2402.03663,
title = {Symbol Correctness in Deep Neural Networks Containing Symbolic Layers},
author = {Aaron Bembenek and Toby Murray},
journal= {arXiv preprint arXiv:2402.03663},
year = {2024}
}