面向可持续 AI 的三难困境：基于 LLM 代理与 RAG 的案例研究
计算机与社会
2025-01-15 v1
摘要
大型语言模型（LLMs）已展现出显著的能力，但其广泛部署和更高级的应用掀起了关键的可持续性挑战，尤其是在推理能耗方面。我们提出了可持续 AI 三难困境的概念，突出了 AI 能力、数字公平性与环境可持续性之间的相互制约。通过对 LLM 代理和检索增强生成（RAG）的系统性案例研究，我们分析了记忆模块设计中嵌入的能源成本，并引入新指标来量化能源消耗与系统性能之间的权衡。我们的实验结果揭示了当前记忆增强框架中的显著能源效率不足，表明资源受限的环境面临不成比例的效率惩罚。我们的发现挑战了当前以 LLM 为中心的代理设计范式，为开发更可持续的 AI 系统提供了实用见解。
引用
@article{arxiv.2501.08262,
title = {Addressing the sustainable AI trilemma: a case study on LLM agents and RAG},
author = {Hui Wu and Xiaoyang Wang and Zhong Fan},
journal= {arXiv preprint arXiv:2501.08262},
year = {2025}
}