一种可学习自我修改的现代自指权重矩阵
机器学习
2022-06-20 v2
摘要
神经网络的权重矩阵（WM）即其程序。许多传统神经网络的程序通过某种误差函数中的梯度下降学习得到，之后保持固定。然而，自指神经网络的 WM 可在运行时持续快速地修改其自身全部内容。原则上，此类神经网络能够元学习以学习，并元元学习以元学习以学习，依此类推，即递归自我改进的意义。尽管自上世纪 90 年代以来已提出潜在能够实现此类行为的神经网络架构，但鲜有乃至没有实际的研究。在此我们重访此类神经网络，构建于快速权重程序员及紧密相关的线性 Transformers 近期成功之上。我们提出了一种可扩展的自指权重矩阵（SRWM），它学习利用外积与 delta 更新规则来修改自身。我们在监督少样本学习及具有程序生成游戏环境的多任务强化学习中对我们的 SRWM 进行了评估。我们的实验展示了所提 SRWM 的实际适用性与竞争性能。我们的代码已公开。
引用
@article{arxiv.2202.05780,
title = {A Modern Self-Referential Weight Matrix That Learns to Modify Itself},
author = {Kazuki Irie and Imanol Schlag and Róbert Csordás and Jürgen Schmidhuber},
journal= {arXiv preprint arXiv:2202.05780},
year = {2022}
}
备注
Accepted to ICML 2022