中文

重新思考规模:代理范式下小型语言模型的部署权衡

计算与语言 2026-04-22 v1 人工智能

摘要

尽管大型语言模型展现了惊人的能力,但其巨大的计算成本、延迟问题以及隐私风险阻碍了其在实际应用中的广泛部署。参数数量不足100亿的小型语言模型(Small Language Models, SLMs)作为一种有前景的替代方案,但其在知识储备和推理能力上的内在局限性削弱了其效能。现有研究主要致力于通过规模化法则或微调策略提升SLMs的性能,却忽视了利用代理范式(如工具使用和多代理协作)系统性弥补小模型局限性的潜力。为此,我们提出首个针对<100亿参数开源模型的大规模、全面研究,基于三种范式:(1)基础模型,(2)配备工具的单一代理,(3)具备协作能力的多代理系统。我们的结果表明,单代理系统在性能与成本之间取得最佳平衡,而多代理配置则增加了开销且收益有限。我们的发现凸显了在资源受限环境下,代理导向设计对实现高效可信部署的重要性。

关键词

引用

@article{arxiv.2604.19299,
  title  = {Rethinking Scale: Deployment Trade-offs of Small Language Models under Agent Paradigms},
  author = {Xinlin Wang and Mats Brorsson},
  journal= {arXiv preprint arXiv:2604.19299},
  year   = {2026}
}