高效训练：使用去噪神经权重

良好的权重初始化是减少深度神经网络（DNN）模型训练成本的有效措施。参数的初始化方式选择具有挑战性，可能需要手动调参，这既耗时又容易出错。为克服这些限制，本工作采取了构建权重生成器来合成初始化权重的新颖步骤。我们以生成对抗网络（GANs）进行图像到图像翻译任务作为示例，由于能够轻松收集覆盖广泛范围的模型权重。具体而言，我们首先收集包含各种图像编辑概念及其对应训练后权重的数据集，用于训练权重生成器。为了解决不同层的特征差异以及大量待预测权重的问题，我们将权重划分为等大小的块，并为每个块分配索引。随后，我们使用包含概念文本条件和块索引的条件，训练了一个扩散模型。通过使用我们扩散模型预测的去噪权重初始化图像翻译模型，训练仅需43.3秒。相较于从头训练（即Pix2pix），我们在新概念上实现了15倍的训练时间加速，同时获得了更好的图像生成质量。