对称感知储层计算
神经与进化计算
2021-10-14 v4 机器学习
混沌动力学
摘要
我们证明,将储层计算机(RC)的对称性质与所处理数据的对称性质相匹配,可显著提升其处理能力。我们将该方法应用于奇偶校验任务(一个突出反演对称和置换对称性的具有挑战性的基准问题)以及呈现反演对称规则的混沌系统推断任务。对于奇偶校验任务,我们的对称感知 RC 使用指数级减少的神经网络和训练数据获得零误差,大幅加快了得出结果的时间,并优于手工构建的人工神经网络。当两种对称性均被遵守时,我们发现对于 50 个不同的 RC 实例,获得零误差所需的网络规模 随奇偶阶数 线性缩放。此外,某些对称感知 RC 实例在 时仅用 即实现零误差分类。进一步,我们展示对称感知 RC 仅需规模约为 的训练数据集即可获得此类性能,相较于常规 RC 需要规模约为 以包含所有 个可能的 位长序列的训练数据集,这是一个指数级的缩减。对于推断任务,我们展示对称感知 RC 的归一化均方根误差比常规 RC 小三个数量级。对于两项任务,我们的 RC 方法仅通过调整输入层和输出层来遵守对称性,而非基于对问题的神经网络修改。我们预期我们的过程的推广可应用于具有已知对称性的信息处理问题中。
引用
@article{arxiv.2102.00310,
title = {Symmetry-Aware Reservoir Computing},
author = {Wendson A. S. Barbosa and Aaron Griffith and Graham E. Rowlands and Luke C. G. Govia and Guilhem J. Ribeill and Minh-Hai Nguyen and Thomas A. Ohki and Daniel J. Gauthier},
journal= {arXiv preprint arXiv:2102.00310},
year = {2021}
}
备注
10 pages, 7 Figures