以示例为提示：面向电商的高效LLM适应的可扩展方法
计算与语言
2025-03-19 v1 人工智能
摘要
通过提示（prompting）LLM提供了一种无需显式模型训练即可引导输出生成的高效方法。在电商领域，基于提示的应用广泛用于查询理解、推荐系统和客户支持等任务。然而，适应LLM以满足不同任务通常需要领域专家进行大量提示工程，以及频繁更新以适应不断变化的业务需求。此外，为人类构建完全无偏的自然语言提示仍然是一个挑战。为此，我们提出了一种新框架，即示例即提示（Examples as the Prompt, EaP），该框架利用标记数据来增强提示。具体而言，EaP自动选择最具代表性的示例，以最大化LLM的few-shot能力。由于其无监督的示例选择和对潜在数据分布变化的适应性，EaP具有高效优势。我们在四个真实的生产用例中验证了EaP，结果表明其在性能上与由领域专家设计的手工提示相当，甚至更优。此外，我们引入EaP_lite，其完全替换提示中自然语言组件的标记示例。EaP_lite在不损失性能的前提下，可提高LLM推理速度最高可达70%。最新的线上A/B测试显示，使用EaP和EaP_lite进行数据标注可带来约0.06%的综合收入增长。
引用
@article{arxiv.2503.13518,
title = {Examples as the Prompt: A Scalable Approach for Efficient LLM Adaptation in E-Commerce},
author = {Jingying Zeng and Zhenwei Dai and Hui Liu and Samarth Varshney and Zhiji Liu and Chen Luo and Zhen Li and Qi He and Xianfeng Tang},
journal= {arXiv preprint arXiv:2503.13518},
year = {2025}
}