eCeLLM:从大规模高质量指令数据泛化大型语言模型用于电商
计算与语言
2024-08-06 v2 人工智能
信息检索
摘要
在开发有效电商模型方面付出了巨大努力后,传统电商模型在通用电商建模方面显示有限的成功,同时在新用户和新产品上表现不佳——这是一个典型的跨域泛化挑战。与此同时,大型语言模型 (LLM) 在众多领域展现出在一般建模和跨域泛化方面的卓越性能。为充分发挥其在电商中的潜力,本文构建了 ECInstruct,即第一个开源的、大规模的且高质量的电商指令数据集。利用 ECInstruct,我们开发了 eCeLLM 系列电商 LLM,通过指令微调通用 LLM 实现。我们的全面实验和评估表明,eCeLLM 模型在域内评估中显著优于基准模型,包括最先进的 GPT-4 和最新的任务特定模型。此外,eCeLLM 在跨域设置中表现出色,包括未见产品和未见指令,凸显其作为通用电商模型的优势。ECInstruct 和 eCeLLM 模型通过 https://ninglab.github.io/eCeLLM 公开获取。
关键词
引用
@article{arxiv.2402.08831,
title = {eCeLLM: Generalizing Large Language Models for E-commerce from Large-scale, High-quality Instruction Data},
author = {Bo Peng and Xinyi Ling and Ziru Chen and Huan Sun and Xia Ning},
journal= {arXiv preprint arXiv:2402.08831},
year = {2024}
}
备注
ICML 2024; Bo Peng and Xinyi Ling contributed equally to this paper