独立性并非神经符号 AI 中的问题
人工智能
2025-04-17 v2
摘要
神经符号 AI 的一种流行方法是取神经网络最后一层的输出（例如 softmax 激活），并将其传递通过一个编码了希望强制执行的特定逻辑约束的稀疏计算图。这会在一组随机变量上诱导出一个概率分布，而在许多常用的神经符号 AI 模型中，这些随机变量恰好彼此条件独立。此类条件独立的随机变量一直被认为是有害的，因为观察到它们的存在与一种被称为确定性偏差的现象共同出现，即系统会确定性地偏好解空间中的某一个有效解而忽略其他解。我们提供了反驳这一结论的证据，并表明确定性偏差现象是不当应用神经符号 AI 所产生的假象。
引用
@article{arxiv.2504.07851,
title = {Independence Is Not an Issue in Neurosymbolic AI},
author = {Håkan Karlsson Faronius and Pedro Zuidberg Dos Martires},
journal= {arXiv preprint arXiv:2504.07851},
year = {2025}
}