RcTorch：具备自动超参数优化的 PyTorch 储层计算包
机器学习
2022-07-14 v1 神经与进化计算
应用物理
摘要
储层计算机（RC）是所有神经网络中训练最快的之一，尤其是与其他循环神经网络相比时。RC 在仍极好地处理序列数据的同时具备这一优势。然而，由于模型对其超参数（HP）敏感，RC 的采用一直落后于其他神经网络模型。文献中缺少一个能自动调优这些参数的现代统一软件包。手动调优这些数值非常困难，且传统网格搜索方法的成本随所考虑 HP 数量呈指数增长，这阻碍了 RC 的使用并限制了可设计 RC 模型的复杂度。我们通过引入 RcTorch 解决了这些问题，这是一个基于 PyTorch 的 RC 神经网络包，具有自动 HP 调优功能。在此，我们通过使用 RcTorch 预测受变力作用的驱动摆的复杂动力学来展示其实用性。本工作包含编码示例。示例 Python Jupyter notebook 可在我们的 GitHub 仓库 https://github.com/blindedjoy/RcTorch 找到，文档可在 https://rctorch.readthedocs.io/ 找到。
引用
@article{arxiv.2207.05870,
title = {RcTorch: a PyTorch Reservoir Computing Package with Automated Hyper-Parameter Optimization},
author = {Hayden Joy and Marios Mattheakis and Pavlos Protopapas},
journal= {arXiv preprint arXiv:2207.05870},
year = {2022}
}
备注
18 pages, 12 figures, and 43 citations. GitHub repository and documentation information included and linked