中文

从狄俄尼索斯中涌现阿波罗——从感知序列中学习模式与抽象

机器学习 2025-03-17 v1

摘要

认知迅速将高维感官流分解为熟悉的部分并揭示它们的关系。为什么结构会涌现,它们如何实现学习、泛化和预测?什么计算原理构成了感知和智能这一核心方面的基础?简化的感官流是一维序列。在学习此类序列时,我们自然地将它们分割成部分——这一过程称为组块。在第一个项目中,我研究了序列反应时间任务中影响组块的因素,并表明人类在平衡速度和准确性的同时适应潜在的组块。在此基础上,我开发了学习组块并逐块解析序列的模型。在规范层面上,我提出组块作为发现重复模式和嵌套层次的理性策略,从而实现高效的序列因式分解。学习到的组块作为可重用的基元,用于迁移、组合和心理模拟——让模型从已知中组合出新事物。我展示了该模型在单维和多维序列中学习层次的能力,并强调了其在无监督模式发现中的效用。第二部分从具体序列转向抽象序列。我对抽象主题进行了分类,并检查了它们在序列记忆中的作用。行为证据表明,人类利用模式冗余进行压缩和迁移。我提出了一种非参数层次变量模型,该模型同时学习组块和抽象变量,揭示不变的符号模式。我展示了它与人类学习的相似性,并将其与大型语言模型进行了比较。总而言之,本论文表明,组块和抽象作为简单的计算原理,使得在层次组织的序列中,从简单到复杂、从具体到抽象,实现结构化知识获取。

关键词

引用

@article{arxiv.2503.10973,
  title  = {From Dionysius Emerges Apollo -- Learning Patterns and Abstractions from Perceptual Sequences},
  author = {Shuchen Wu},
  journal= {arXiv preprint arXiv:2503.10973},
  year   = {2025}
}