一种小型数学模型：以类 LLM 架构重构策略选择理论
机器学习
2025-11-24 v2 人工智能
摘要
策略选择理论（Strategy Choice Theory, SCT；Siegler 和 Shrager, 1984；Siegler, 2000）基于包括：从发展自然数据中学习、概率表示、基于置信度的检索以及脚数计数等支架策略的阶段性重要性等原则，解释了儿童算术学习的重要方面。本文我们将 SCT 重构为“小型数学模型”（Small Math Model, SMM），采用类似大语言模型（LLM）的神经网络架构。SMM 将 SCT 扩展以包括计数练习、符号（数字）嵌入和门控注意力。与早期工作类似，SMM 显示了计数与加法之间的构造性和破坏性干扰，脚数计数的“波状”使用作为求和记忆有助于改善。我们计划将 SMM 扩展到数十年来 SCT 项目的后期方面，包括自适应策略选择以及最终的策略发现，为提供一个统一的平台来探讨理解数值特征和关系的本质——正如它可以在基于 LLM 的智能体中产生的那样。
引用
@article{arxiv.2509.24068,
title = {A Small Math Model: Recasting Strategy Choice Theory in an LLM-Inspired Architecture},
author = {Roussel Rahman and Jeff Shrager},
journal= {arXiv preprint arXiv:2509.24068},
year = {2025}
}