面向自动化神经设计：一个开源、分布式的神经架构研究框架
神经与进化计算
2018-10-23 v1 人工智能
摘要
NORD（Neural Operations Research & Development）是一个基于 PyTorch、MPI 和 Horovod 的开源分布式深度学习架构研究框架。它旨在使不同领域的专家更容易进行深度架构研究，以加速寻找更优架构的进程，并研究为不同数据集生成的最佳架构。尽管目前处于密集开发阶段，该框架旨在允许轻松实现不同的设计与优化方法族（优化算法、元启发式、强化学习等）以及它们之间的公平比较。此外，由于优化和评估网络架构所需的计算资源，它利用了分布式计算，同时旨在最小化研究者实现它所需的开销。而且，它通过实现网络描述符，允许分别定义架构的节点和连接，努力使架构的创建更直观。在本文中，我们展示该框架的当前开发状态，同时介绍其基本概念，提供简单示例及其实验结果。
引用
@article{arxiv.1810.08648,
title = {Towards automated neural design: An open source, distributed neural architecture research framework},
author = {George Kyriakides and Konstantinos Margaritis},
journal= {arXiv preprint arXiv:1810.08648},
year = {2018}
}