基于集合的神经网络手术
计算与语言
2020-03-20 v2 机器学习
摘要
训练机器学习模型的成本呈指数增长，使得在规模上探索和研究正确特征与架构成为昂贵或难以处理的努力。然而，利用名为“手术（surgery）”的技术，OpenAI Five 在 10 个月内通过 20 次特征与架构的重大变更持续训练以游玩 DotA 2 游戏。手术在选定过程后将一个网络的训练权重迁移至另一网络，以确定模型中哪些部分未变、哪些必须重新初始化。过去，选定过程依赖启发式、人工或模型中既有的结构边界，限制了在特征集修改或输入重排序后挽救实验的能力。我们提出一种自动确定神经网络模型中哪些组件应保留、哪些需重新训练的解决方案。我们通过让模型在离散特征集合上运作，并使用基于集合的运算来确定输入与输出之间的精确关系，以及它们如何随模型架构调整而变化，从而实现此目的。本文引入使神经网络在集合上运作的方法论，推导两种检测特征-参数交互图的方法，并证明其等价性。我们经实证验证，可在 OpenAI Five 模型的特征与架构变更间进行权重手术。
引用
@article{arxiv.1912.06719,
title = {Neural Network Surgery with Sets},
author = {Jonathan Raiman and Susan Zhang and Christy Dennison},
journal= {arXiv preprint arXiv:1912.06719},
year = {2020}
}