中文

逻辑信息细胞 I

人工智能 2021-08-11 v1

摘要

在本研究中,我们探讨了简单人工网络中可见且可理解的推理的自发出现,并将这一实验观察与语义信息的概念联系起来。我们首先重现了 Neromyliotis 和 Moschovakis 在 2017 年和 2018 年研究的猴子自然神经元的 DNN 模型,以解释仅编码指向动作的“运动等价神经元”如何通过其他神经元得到补充,从而指定动作的执行者、眼睛 E、手 H 或眼睛和手一起 EH。随后出现了一些执行逻辑工作、做出中间命题的内部神经元,例如 E V EH。然后,我们注意到,增加第二个隐藏层并选择对称度量进行学习,神经元的活动变得几乎量子化且包含更多信息。利用 Carnap 和 Bar-Hillel 1952 年的工作,我们定义了此类细胞集合的逻辑值度量。逻辑分数随层深度的增加而增长,即关于输出决策的信息增加,这证实了一种瓶颈原理。接着,我们研究了稍微复杂的任务,这些任务先验地涉及谓词逻辑。我们比较了逻辑和测量的权重。这表明,对于神经元群,逻辑分数与权重大小之间存在明显的相关性。它展示了层间的一种稀疏性形式。最引人注目的结果涉及能在所有条件下得出结论的三元组:当将其权重矩阵应用于其逻辑矩阵时,我们恢复了分类结果。这表明权重精确地执行了证明。

关键词

引用

@article{arxiv.2108.04751,
  title  = {Logical Information Cells I},
  author = {Jean-Claude Belfiore and Daniel Bennequin and Xavier Giraud},
  journal= {arXiv preprint arXiv:2108.04751},
  year   = {2021}
}