利用全息约简表示的神经符号损失实现数感泛化
计算机视觉与模式识别
2023-12-27 v1 机器学习
神经元与认知
摘要
尽管深度学习在过去十年中在计算机视觉任务中取得了显著成功，但从认知科学（CogSci）的角度来看，仍存在许多不足。特别是，当前卷积神经网络（CNN）或视觉变换器（ViT）在使用标准交叉熵（CE）损失时，无法很好地学习数感（subitizing）能力，即快速准确地识别少量（少于6个）物品的数量。本文通过开发一种使用全息约简表示（HRR）的替代损失函数，证明调整认知科学研究中使用的工具可以改善CNN和ViT的数感泛化能力。我们研究了这种神经符号学习方法如何影响CNN和ViT的数感能力，因此专注于专门设计的问题，以隔离数感特定方面的泛化。通过显著性图和分布外性能，我们能够经验性地观察到，所提出的HRR损失改善了数感泛化，尽管并未完全解决问题。此外，我们发现ViT在数感方面的大多数指标上表现明显差于CNN，除了在一个维度上基于HRR的损失提供了改进。
引用
@article{arxiv.2312.15310,
title = {Towards Generalization in Subitizing with Neuro-Symbolic Loss using Holographic Reduced Representations},
author = {Mohammad Mahmudul Alam and Edward Raff and Tim Oates},
journal= {arXiv preprint arXiv:2312.15310},
year = {2023}
}
备注
Accepted in 38th Annual AAAI Workshop on Neuro-Symbolic Learning and Reasoning in the Era of Large Language Models (NuCLeaR), 2024