伊辛感知器权值空间中的随机游走学习

我们研究了用于构造伊辛感知器突触权重的随机局部搜索过程的几种变体。在此过程中，二值模式被依次呈现给伊辛感知器，然后随着突触权重配置在先前已学习模式的相容权重配置空间内通过单次或双次权重翻转链进行修改，这些模式被学习。对于模式长度 N = 101，该过程能够达到 $\alpha \approx 0.63$ 的存储容量；对于 N = 1001，能够达到 $\alpha \approx 0.41$ 的存储容量。如果额外利用再学习过程，学习性能将进一步提升，对于 N = 101 存储容量达到 $\alpha \approx 0.80$，对于 N = 1001 达到 $\alpha \approx 0.42$。我们发现，对于给定的学习任务，由随机游走学习过程构造的解之间相隔一个典型的汉明距离，该距离随学习任务的约束密度 $\alpha$ 增加而减小；在 $\alpha$ 值固定时，汉明距离分布的宽度随 $N$ 减小。