代理 AI 系统应作为边际 token 分配经济进行设计
人工智能
2026-05-05 v1 计算机与社会
摘要
本立场论文论证了代理 AI 系统应被设计和评估为\emph{边际 token 分配经济}而非以单元计费的文本生成器。我们跟随一个单一请求——开发人员要求编码代理修复一个失败的测试——经历四个今天被设计为孤立的经济层次:决定哪个模型回答的路由器、决定是否计划、行动、验证或委托的代理、决定如何生成每个 token 的服务堆栈以及决定该跟踪值不值得学习的训练管道。我们展示所有四个层次都在解决\emph{相同的}一阶条件——边际收益等于边际成本加上延迟成本加上风险成本——只是不同的指数集合和不同的价格。此框架刻意简洁:我们不提出完整的 AI 经济学理论。但将边际 token 分配作为共享记账对象解释了为何在局部最小化 token 的系统在全局上会产生浪费,预测了一小组反复出现的失败模式(过度路由、过度委托、不足验证、服务拥堵、陈旧 rollout、缓存误用),并指向一个具体的研究议程,涉及 token-aware 评估、自主价格定价、拥堵定价服务以及风险调整 RL 预算。
关键词
引用
@article{arxiv.2605.01214,
title = {Agentic AI Systems Should Be Designed as Marginal Token Allocators},
author = {Siqi Zhu},
journal= {arXiv preprint arXiv:2605.01214},
year = {2026}
}