Kuramoto振荡相位编码:神经启发式同步机制提升学习效率
机器学习
2026-04-10 v1 计算机视觉与模式识别
神经与进化计算
摘要
空间时间神经动力学和振荡同步在生物信息处理中广泛涉及,并被假定支持灵活的协调,如特征绑定。相比之下,大多数深度学习架构通过激活值来表示和传递信息,忽略了率和相位的联动动态。在本工作中,我们引入Kuramoto振荡相位编码(KoPE)作为额外的、演化的相位状态纳入视觉Transformer,incorporating a neuro-inspired synchronization mechanism to advance learning efficiency。我们表明KoPE可以通过同步增强的结构学习提升视觉模型的训练、参数和数据效率。此外,KoPE有益于需要结构化理解的任务,包括语义和全景分割、与语言的表示对齐以及少样本抽象视觉推理(ARC-AGI)。理论分析和实证验证进一步表明KoPE可以加速注意力集中以提高学习效率。这些结果表明同步可作为一种可扩展的神经启发式机制,用于推进最新神经网络模型。
引用
@article{arxiv.2604.07904,
title = {Kuramoto Oscillatory Phase Encoding: Neuro-inspired Synchronization for Improved Learning Efficiency},
author = {Mingqing Xiao and Yansen Wang and Dongqi Han and Caihua Shan and Dongsheng Li},
journal= {arXiv preprint arXiv:2604.07904},
year = {2026}
}