生成式 AI 第二幕：测试时规模驱动认知工程
计算与语言
2025-04-29 v3 人工智能
摘要
大型语言模型的第一代——可称为生成式 AI（2020-2023 年）——通过大规模参数和数据 scaling 取得了显著成功，但仍存在知识延迟、浅层推理和受限认知过程等根本性局限。此期间，提示工程成为我们与 AI 交互的主要接口，使其能够通过自然语言实现对话级交流。我们现在见证了“第二幕”（2024 年至今）的出现，模型正从知识检索系统（潜在空间）转向通过测试时规模技术构建思想引擎。这一新范式通过基于语言的思想建立与 AI 的心智层面的连接。本文阐明了认知工程的概念基础，解释了为何此时刻对于其发展至关重要。我们通过系统性教程和优化实现，对这些先进方法进行了全面解析， democratizing 认知工程的获取，使每位实践者都能参与 AI 的第二幕。我们提供了一个关于测试时规模的论文集合，定期更新于 GitHub 仓库：https://github.com/GAIR-NLP/cognition-engineering
引用
@article{arxiv.2504.13828,
title = {Generative AI Act II: Test Time Scaling Drives Cognition Engineering},
author = {Shijie Xia and Yiwei Qin and Xuefeng Li and Yan Ma and Run-Ze Fan and Steffi Chern and Haoyang Zou and Fan Zhou and Xiangkun Hu and Jiahe Jin and Yanheng He and Yixin Ye and Yixiu Liu and Pengfei Liu},
journal= {arXiv preprint arXiv:2504.13828},
year = {2025}
}
备注
v3: add the comparison to existing work part; fix some errors