可持续性与性能的平衡:小规模大语言模型在智能体人工智能系统中的作用
人工智能
2026-02-09 v2
摘要
随着大型语言模型成为智能体人工智能系统的关键组件,其推理过程中的能源需求可能构成重大的可持续性挑战。本研究探讨了在多智能体、真实世界环境中,部署较小规模的语言模型是否可以在响应性和输出质量方面保持稳健,同时降低能源消耗。我们对不同规模的语言模型进行比较分析,量化效率与性能之间的权衡。结果表明,较小的开源模型可降低能源使用,同时保持任务质量。基于这些发现,我们提出了可持续人工智能设计的实用指南,包括最佳 batch 大小配置和计算资源分配。这些见解为开发可扩展、环境负责任的人工智能系统提供了可操作的策略。
引用
@article{arxiv.2601.19311,
title = {Balancing Sustainability And Performance: The Role Of Small-Scale LLMs In Agentic Artificial Intelligence Systems},
author = {Anh Khoa Ngo Ho and Martin Chauvin and Simon Gosset and Philippe Cordier and Boris Gamazaychikov},
journal= {arXiv preprint arXiv:2601.19311},
year = {2026}
}