DropIn：通过Dropout使储备池计算神经网络对缺失输入鲁棒
机器学习
2017-05-09 v1 神经与进化计算
机器学习
摘要
本文提出了一种新颖的、原则性的方法来训练来自储备池计算（Reservoir Computing）家族的循环神经网络，这些网络在预测时对输入特征部分缺失具有鲁棒性。基于Dropout正则化的集成特性，我们提出了一种名为DropIn的方法论，它高效地将神经模型训练为子网络的委员会机器，每个子网络能够利用原始输入特征的一个子集进行预测。我们讨论了DropIn方法论在储备池计算模型背景下的应用，以及面向输入源不可靠或容易断开的应用，例如普适无线传感器网络和环境智能。我们使用来自此类应用领域的真实数据提供了实验评估，展示了DropIn方法论如何允许保持与无缺失特征模型可比的预测性能，即使当20\%-50\%的输入不可用时。
引用
@article{arxiv.1705.02643,
title = {DropIn: Making Reservoir Computing Neural Networks Robust to Missing Inputs by Dropout},
author = {Davide Bacciu and Francesco Crecchi and Davide Morelli},
journal= {arXiv preprint arXiv:1705.02643},
year = {2017}
}