利用神经忆阻纳米线网络中的自适应动力学实现迁移学习
无序系统与神经网络
2021-06-24 v2
摘要
纳米线网络(NWNs)是一种用于神经形态信息处理的独特硬件平台。除了在其交叉点结处表现出突触般的阻变记忆外,它们的自组装还使其电路具有类神经网络的拓扑结构,这是通过传统自顶向下制造方法无法实现的。除了低功耗、高成本效益和高效互连之外,神经形态 NWNs 还具有容错和自修复能力。这些极具吸引力的特性在很大程度上可归因于其复杂的网络连接性,这使得其具备丰富的自适应非线性动力学行为,包括混沌边缘临界性。在此,我们展示了如何利用神经形态 NWNs 固有的自适应动力学来实现迁移学习。我们通过对储层计算实现的仿真来展示这一点,其中 NWNs 执行著名的 Mackey-Glass(MG)信号预测基准任务。首先,我们展示 NWNs 如何预测具有任意不可预测程度(即混沌)的 MG 信号。然后我们表明,预先接触过 MG 信号的 NWNs 在预测方面表现优于未有过 MG 信号先验经验的 NWNs。这种迁移学习由网络对先前状态的集体记忆所实现。总体而言,其自适应信号处理能力使神经形态 NWNs 成为新兴实时应用(尤其是远边缘端 IoT 设备)中有前景的候选者。
引用
@article{arxiv.2011.11336,
title = {Harnessing adaptive dynamics in neuro-memristive nanowire networks for transfer learning},
author = {Ruomin Zhu and Joel Hochstetter and Alon Loeffler and Adrian Diaz-Alvarez and Adam Stieg and James Gimzewski and Tomonobu Nakayama and Zdenka Kuncic},
journal= {arXiv preprint arXiv:2011.11336},
year = {2021}
}