动态 Dropout：利用康威生命游戏进行神经网络正则化

正则化技术在防止过拟合和提高神经网络泛化性能方面起着至关重要的作用。Dropout 作为一种广泛使用的正则化技术，在训练过程中随机停用单元以引入冗余并防止神经元间的共适应。尽管 Dropout 有效，但它存在局限性，例如其静态特性和缺乏可解释性。在本文中，我们提出了一种新颖的正则化方法，用康威生命游戏（GoL）替代 Dropout。康威生命游戏是一种元胞自动机，其简单规则控制着细胞网格的演化。通过将神经网络单元表示为 GoL 网格中的细胞，并应用游戏规则来停用单元，我们引入了训练过程中的动态单元停用。这种方法允许出现适应训练数据的空间模式，从而可能增强网络的泛化能力。我们在 CIFAR-10 数据集上展示了我们方法的有效性，表明使用 GoL 进行动态单元停用可以达到与传统 Dropout 技术相当的性能，同时通过可视化演化模式提供了对网络行为的洞察。此外，我们的讨论强调了我们的提议在更深层架构中的适用性，展示了它如何提升不同 Dropout 技术的性能。