条件独立性在智能系统演化中的作用

无论复杂程度如何，系统通常由简单组件构成。尽管各部分功能易于理解，但高阶功能属涌现性质且极难解释。在网络化系统（数字的与生物的）中，每个组件接收输入、执行简单计算并产生输出。当这些组件具有多个输出时，我们直觉地假定输出在给定共享输入状态条件下因果依赖于输入而彼此独立。然而，对于具有概率逻辑的组件，此直觉可被违背，因其通常无法分解为各自仅有一个输出的独立逻辑门。这种对过去系统状态条件独立性的违背等价于瞬时交互——其意指输出间的部分信息并非来自输入，因而必为瞬时产生。本文比较了在若干任务环境中带与不带瞬时交互的演化人工神经系统。我们表明，无瞬时交互的系统演化更快、达到更高的最终性能水平，且构建密集连接认知机制所需逻辑组件更少。