ImmuNeCS：基于人工免疫系统的神经委员会搜索

当前的神经架构搜索（NAS）技术可能存在一些缺点，包括高计算成本、来自搜索空间的过度偏置、概念复杂性或相对于随机搜索不确定的经验收益。在本文中，我们提出ImmuNeCS，一种通过简单、灵活且高效的方式自动构建深度学习模型来解决这些问题的方法尝试，并在卷积神经网络的背景下展示其有效性。我们不是为给定任务搜索单一最佳架构，而是专注于构建一群神经网络，然后将它们集成为神经网络委员会，我们将这种方法称为“神经委员会搜索”。为确保委员会具有足够性能，我们的搜索算法基于人工免疫系统，平衡个体性能与群体多样性。这使我们能在准确率开始趋于平稳时停止搜索，并通过集成弥补性能差距。为证明我们方法的合理性，我们首先验证所选搜索空间表现出局部性性质。为进一步提高效率，我们还结合了部分评估、权重继承与渐进搜索。首先，运行实验验证这些技术的有效性。然后，在两个流行的计算机视觉基准上的初步实验结果表明，我们的方法持续优于随机搜索，并在合理的GPU预算内产生有前景的结果。一项附加实验还表明，ImmuNeCS的解能有效迁移到更困难的任务，在该任务上取得了与在新任务上直接搜索相当的结果。我们相信这些发现可为传统NAS的新且易用的替代方案开辟道路。