超越基准:AI推理的经济学
人工智能
2025-10-31 v1
摘要
大型语言模型(LLM)的推理成本已成为决定其商业可行性和广泛采用的关键因素。本文引入了一个定量的“推理经济学”框架,将大型语言模型推理过程视为一种计算驱动的智能生产活动。我们分析了在各种性能配置下的边际成本、规模经济和产出质量。基于WiNEval-3.0的经验数据,我们构建了首个“大型语言模型推理生产前沿”,揭示了三个原则:边际成本递减、规模报酬递减以及最优成本效益区间。本文不仅为模型部署决策提供了经济学基础,也为未来基于市场的AI推理资源定价和优化奠定了实证基础。
引用
@article{arxiv.2510.26136,
title = {Beyond Benchmarks: The Economics of AI Inference},
author = {Boqin Zhuang and Jiacheng Qiao and Mingqian Liu and Mingxing Yu and Ping Hong and Rui Li and Xiaoxia Song and Xiangjun Xu and Xu Chen and Yaoyao Ma and Yujie Gao},
journal= {arXiv preprint arXiv:2510.26136},
year = {2025}
}