可微分电阻网络中的顺序学习与灾难性遗忘
机器学习
2026-05-05 v1 无序系统与神经网络
计算物理
摘要
可微分物理网络提供了一个通过可训练参数与物理平衡约束之间的相互作用来研究学习的简单场景。我们研究受克鲁科夫定律控制的可微分电阻网络中的顺序学习。尽管可以通过梯度调整电导来学习单个输入-输出映射，但对冲突任务的顺序训练会导致灾难性遗忘。我们指出，遗忘程度由任务冲突程度以及对新任务的适应程度控制。统一锚定和归一化梯度加权锚定仅通过增加新任务的最终损失来减少遗忘，形成明确的遗忘-适应权衡。我们还表明，遗忘与高电流边缘的局部电导变化相关，提供了作为支配传输通道重新配置的物理解释。更广泛的随机任务集合表明，最强烈的遗忘发生在第二个任务颠倒第一个任务施加的输出排序时。最后，跨 Erd\H{o}s--R\'enyi、小世界、无尺度和随机几何图集合的比较表明，拓扑结构影响遗忘-适应平衡。这些结果将可微分电阻网络定位为研究可调介质中持续学习的紧凑、可解释测试平台。
引用
@article{arxiv.2605.01383,
title = {Sequential Learning and Catastrophic Forgetting in Differentiable Resistor Networks},
author = {Maniru Ibrahim},
journal= {arXiv preprint arXiv:2605.01383},
year = {2026}
}