Zen-NAS：一种用于高性能深度图像识别的零样本神经架构搜索

精度预测器是神经架构搜索（NAS）中用于对架构排序的关键组件。构建高质量的精度预测器通常耗费巨大计算量。为解决此问题，我们不使用精度预测器，而是提出一种称为 Zen-Score 的新型零样本指标来对架构排序。Zen-Score 表征网络表达能力，并与模型精度正相关。Zen-Score 的计算仅需通过随机初始化网络进行数次前向推理，无需训练网络参数。基于 Zen-Score，我们进一步提出一种名为 Zen-NAS 的新 NAS 算法，通过在给定推理预算下最大化目标网络的 Zen-Score 来实现。在不到半个 GPU 日内，Zen-NAS 能够以无数据方式直接搜索高性能架构。与以往 NAS 方法相比，所提出的 Zen-NAS 在多个服务器端和移动端 GPU 平台上速度快一个数量级，并在 ImageNet 上达到最先进精度。我们的源代码与预训练模型发布于 https://github.com/idstcv/ZenNAS。