认知灵活性的火花：通过注意力路由进行灵活刺激-反应映射的自引导上下文推理
神经元与认知
2025-02-26 v2 机器学习
摘要
灵活的认知要求发现隐藏规则以快速适应刺激-反应映射。标准神经网络在需要快速、上下文驱动重映射的任务中表现不佳。最近，Hummos (2023) 提出了一种快慢学习算法来弥补这一不足，但其可扩展性到复杂的、可图像计算的任务尚不明确。在这里，我们提出了 Wisconsin 神经网络（WiNN），它将 Hummos 的快慢学习扩展到需要灵活基于规则行为的图像可计算任务。WiNN 采用预训练的卷积神经网络进行视觉处理，并耦合一个可调节的上下文状态来引导注意力到相关特征。如果 WiNN 产生错误响应，它首先迭代更新其上下文状态以将注意力重新聚焦于任务相关线索，然后对注意力和读出层执行最小参数更新。这种策略保留了感觉和注意力网络中的可泛化表示，减少了灾难性遗忘。我们在基于图像的 Wisconsin 卡片分类任务扩展版上评估了 WiNN，揭示了认知灵活性的几个标志：(i) WiNN 自主推断底层规则，(ii) 比依赖大规模参数更新的对照模型需要更少的样本，(iii) 可以通过上下文状态调整单独进行基于上下文的规则推理——进一步由注意力和读出参数的慢更新增强，(iv) 通过上下文状态更新 alone 泛化到未见过的组合规则。通过将快速上下文推理与目标注意力引导相结合，WiNN 实现了灵活性的火花。该方法为上下文敏感模型提供了一条路径，使其在保留知识的同时能够快速适应复杂的基于规则的任务。
引用
@article{arxiv.2502.15634,
title = {Sparks of cognitive flexibility: self-guided context inference for flexible stimulus-response mapping by attentional routing},
author = {Rowan P. Sommers and Sushrut Thorat and Daniel Anthes and Tim C. Kietzmann},
journal= {arXiv preprint arXiv:2502.15634},
year = {2025}
}
备注
11 pages, 4 figures; edited author info, abstract, and Fig. 1B