异构时间常数改善平衡传播中的稳定性
机器学习
2026-03-05 v1 人工智能
摘要
平衡传播（EP）是一种生物学上符合人类直觉的反向传播训练神经网络的方法。然而，现有的 EP 模型使用统一的标量时间步长 dt，这在生物学上对应于跨神经元具有异构膜时间常数。本文通过为 EP 引入异构时间步长（HTS），即为每个神经元分配来自生物学激励分布的神经元特定时间常数，来提高训练稳定性。我们表明，HTS 在保持具竞争力的任务性能的同时，提高了训练稳定性。这些结果表明， Incorporating 异构的时间动态不仅增强了平衡传播的生物学真实性，也提高了其鲁棒性。
引用
@article{arxiv.2603.03402,
title = {Heterogeneous Time Constants Improve Stability in Equilibrium Propagation},
author = {Yoshimasa Kubo and Suhani Pragnesh Modi and Smit Patel},
journal= {arXiv preprint arXiv:2603.03402},
year = {2026}
}