边界优化网络（BON）

尽管深度神经网络在分类某些数据集上取得了所有成功，寻找可泛化的最优解的挑战仍然存在。本文中，我们提出边界优化网络（BON），一种用于监督学习时深度神经网络泛化的新方法。给定一个分类网络，我们提议使用一个协作生成网络，以原始数据点扰动的形式产生新的合成数据点。以此方式，我们在每个原始数据点周围创建数据支撑，防止决策边界过于靠近原始数据点通过，即防止过拟合。我们展示 BON 在使用最先进的 Densenet 时在 CIFAR-10 上改善了收敛。然而我们观察到生成网络在训练期间遭受灾难性遗忘，因此我们提议使用记忆感知突触（Memory Aware Synapses）的一种变体来优化生成网络（称为 BON++）。在 Iris 数据集上，我们可视化了当生成器不遭受灾难性遗忘时 BON++ 的效果，并得出结论该方法有潜力在更高维空间中创建更好的边界。