理解可数无穷：后继函数及其习得的神经网络模型
机器学习
2024-05-24 v2 人工智能
摘要
当儿童进入小学时，他们对数字序数结构的理解从记忆前50–100个数字的计数表，转变为掌握后继函数并理解可数无穷。我们在两个神经网络模型中研究这一发展性变化，这两个模型在N取(0, 98)中的值时学习数对(N, N+1)上的后继函数。第一个模型对输入和输出值使用one-hot编码，对应于儿童记忆计数表；第二个模型使用位值编码，对应于儿童学习命名数字的语言规则。位值模型在十的边界上表现出表征相似性的预期下降。跨越十的边界进行计数可理解为二维空间中的向量操作，其中具有相同十位数字的数以线性可分的方式组织，而具有相同个位数字的数则归为一组。课程学习模拟表明，在发育中儿童不断扩展的数字环境中，即使开始学习更大的数字，较小数字的表征仍持续被精炼。这些模型为未来使用循环架构超越学习后继函数、更一般地模拟计数过程的研究奠定了基础，并指向对“理解可数无穷”意味之更深层理解。
引用
@article{arxiv.2311.15194,
title = {Understanding the Countably Infinite: Neural Network Models of the Successor Function and its Acquisition},
author = {Vima Gupta and Sashank Varma},
journal= {arXiv preprint arXiv:2311.15194},
year = {2024}
}
备注
6 pages, 11 figures