JungleGPT：为电商场景设计与优化的复合型 AI 系统
信息检索
2024-07-02 v1
摘要
大语言模型（LLM）通过为个性化推荐和客户服务等应用提供动力，显著推进了电商行业的发展。然而，目前大多数研究仅关注单一的巨型 LLM，无法满足实际电商场景的复杂性和规模。在本工作中，我们提出了 JungleGPT——首个针对实际电商应用的复合型 AI 系统。我们概述了系统的设计以及用于优化实际用例性能的技术，这些技术已证明可将推理成本降低至仅为强大单一 LLM 所需成本的 less than 1%。
引用
@article{arxiv.2407.00038,
title = {JungleGPT: Designing and Optimizing Compound AI Systems for E-Commerce},
author = {Sherry Ruan and Tian Zhao},
journal= {arXiv preprint arXiv:2407.00038},
year = {2024}
}