小聊,大影响:致谢 AI 的能源成本
机器学习
2026-02-02 v1
摘要
礼貌是免费的——或者说呢?本文量化了看似无宜的信息,如“谢谢”,在与大型语言模型交互时的能源消耗。我们利用真实世界的对话轨迹和精细的能源测量,量化了输入长度、输出长度和模型规模对能源使用的影响。虽然礼貌是我们的动机示例,但它也是测量典型 LLM 交互能源足迹的受控可复现代理。我们的发现为构建更可持续和高效的 LLM 应用提供了可操作见解,尤其是在日益广泛的实际场景中如聊天。随着用户采用规模的扩大和每日处理的提示数量达数十亿,理解和减轻此成本变得至关重要——这不仅关乎效率,更关乎可持续 AI 部署。
引用
@article{arxiv.2601.22357,
title = {Small Talk, Big Impact: The Energy Cost of Thanking AI},
author = {Julien Delavande and Regis Pierrard and Sasha Luccioni},
journal= {arXiv preprint arXiv:2601.22357},
year = {2026}
}