增强储备计算机内存容量的技术方法
机器学习
2025-02-26 v1
摘要
储备计算机（Reservoir Computing, RC）是一种仿生机器学习框架，已提出多种模型。RC 因其适用于时间序列数据处理而被广泛采用，但在记忆容量与非线性性之间存在权衡。在本研究中，我们通过修改网络配置（不改变储备内部结构）来提高储备模型的记忆容量。Delay 方法通过在输入层添加指定数量的延迟步骤链来保留历史输入；为抑制因 Delay 方法导致的输入值增加效应，我们将输入权重除以添加的延迟步骤数。Pass through 方法直接将输入值传递至输出层。Clustering 方法将输入节点和储备节点划分为多个部分，并在输出层进行集成。我们将这些方法应用于回声状态网络（Echo State Network, ESN），这是一种典型的 RC 模型，以及混沌玻尔兹曼机（chaotic Boltzmann Machine, CBM）-RC 模型，后者可高效实现于集成电路中。我们在 NARMA 任务上对其进行评估，并测量信息处理容量（Information Processing Capacity, IPC），以评估记忆容量与非线性性之间的权衡。
引用
@article{arxiv.2502.17923,
title = {Techniques for Enhancing Memory Capacity of Reservoir Computing},
author = {Atsuki Yokota and Ichiro Kawashima and Yohei Saito and Hakaru Tamukoh and Osamu Nomura and Takashi Morie},
journal= {arXiv preprint arXiv:2502.17923},
year = {2025}
}