减少 RAG 系统能源消耗的有效技术：受控实验
软件工程
2026-01-13 v2
摘要
机器学习（ML）日益增长的能源需求，例如在流行的检索增强生成（RAG）系统中实现，引发了对其环境可持续性的重大关切。尽管先前的研究提出了针对 ML 驱动系统的绿色策略，但其在 RAG 系统中的实证评估仍 largely 未探索。本研究 presenting 一个受控实验，检验五项旨在降低 RAG 系统能源消耗的实用技术。我们采用由合作伙伴 Software Improvement Group 开发的生产级 RAG 系统，对这些技术对能源消耗、延迟和准确性的影响进行评估。通过总计 9 种配置，进行了超过 200 小时的试验，使用 CRAG 数据集，我们揭示了诸如提高相似度检索阈值、减小嵌入大小、应用向量索引以及使用 BM25S 重排序器等技术，可显著降低能源使用，某些情况下最高可降低 60%。然而，几项技术也导致了不可接受的准确性下降，例如通过索引策略可下降最高 30%。值得注意的是，寻找最佳检索阈值和减小嵌入大小可显著降低能源消耗和延迟且不损失准确性，这两项技术真正具有能源效率。我们present首个针对 RAG 系统能源效率设计技术的全面实证研究，为旨在构建可持续 RAG 应用的开发者和研究者提供指导。
引用
@article{arxiv.2601.02522,
title = {On the Effectiveness of Proposed Techniques to Reduce Energy Consumption in RAG Systems: A Controlled Experiment},
author = {Zhinuan Guo and Chushu Gao and Justus Bogner},
journal= {arXiv preprint arXiv:2601.02522},
year = {2026}
}
备注
Accepted for publication at the 2026 International Conference on Software Engineering: Software Engineering in Society (ICSE-SEIS'26)