ReSet：在类ResNet神经网络中学习循环动态路由
机器学习
2018-11-13 v1 机器学习
摘要
神经网络是一种强大的机器学习工具，在计算机视觉、自然语言处理和人工智能中表现出卓越性能。特别是，近期提出的ResNet架构及其变体在图像分类问题上取得了当前最优（SOTA）结果。ResNet及大多数先前提出的架构具有固定结构，并对所有输入图像施加相同变换。本工作中，我们开发了一种基于ResNet的模型，该模型从学习到的变换集合中为每个输入对象动态选择计算单元（CU）。动态选择使网络能够学习一系列有用变换，并仅应用所需单元来预测图像标签。我们将模型与ResNet-38架构比较，在CIFAR-10.1测试集上取得了优于原始ResNet的结果。在检视所生成的路径时，我们发现网络为不同类别的图像学习了不同路由，而为相似图像学习了相似路由。
引用
@article{arxiv.1811.04380,
title = {ReSet: Learning Recurrent Dynamic Routing in ResNet-like Neural Networks},
author = {Iurii Kemaev and Daniil Polykovskiy and Dmitry Vetrov},
journal= {arXiv preprint arXiv:1811.04380},
year = {2018}
}
备注
Published in Proceedings of The 10th Asian Conference on Machine Learning, http://proceedings.mlr.press/v95/kemaev18a.html