SNN与ANN的共舞：通过结合脉冲时序与重构注意力解决绑定问题
人工智能
2022-11-14 v1 计算机视觉与模式识别
摘要
绑定问题是阻碍人工神经网络（ANNs）像人类感知那样对世界进行组合性理解的根本挑战之一，因为当呈现含多个对象的复杂数据时，生成因子的解耦与分布式表示会相互干扰并导致歧义。本文提出一种受脑启发的混合神经网络（HNN），通过整合脉冲时序动力学（经由脉冲神经网络，SNNs）与重构注意力（由ANNs实现），将源自神经科学的时序绑定理论引入ANNs。脉冲时序为分组提供了额外维度，而重构反馈将脉冲协调为时间相干状态。通过ANN与SNN的迭代交互，模型在SNN编码空间中于交替的同步放电时刻持续绑定多个对象。该模型的有效性在二值图像合成数据集上得到评估。通过可视化与分析，我们证明该绑定是可解释、柔性、灵活且分层的。值得注意的是，模型在单对象数据集上训练且无需显式分组监督，却在测试数据集上成功绑定了多个对象，展现出其组合泛化能力。进一步结果显示了其在动态情形下的绑定能力。
引用
@article{arxiv.2211.06027,
title = {Dance of SNN and ANN: Solving binding problem by combining spike timing and reconstructive attention},
author = {Hao Zheng and Hui Lin and Rong Zhao and Luping Shi},
journal= {arXiv preprint arXiv:2211.06027},
year = {2022}
}