探索大型语言模型用于产品属性值识别
计算与语言
2024-09-20 v1 信息检索
摘要
产品属性值识别(PAVI)涉及自动识别产品属性及其值,使产品搜索、推荐和比较等功能成为可能。现有方法主要依赖微调预训练语言模型(如BART和T5),需要大量任务特定训练数据且难以泛化到新属性。本文探索大型语言模型(LLM)如LLaMA和Mistral作为数据高效且鲁棒的PAVI替代方案。我们提出了各种策略:比较零shot setting下单步骤和双步骤基于提示的方法,并利用参数和非参数知识通过上下文学习示例。我们还引入基于预训练T5模型的稠密演示检索器,并进行指令微调以显式训练LLM以适应特定指令。广泛的实验表明,我们的双步骤方法在零shot setting下显著提升性能,指令微调进一步在使用训练数据时提升性能,显示示LLM在PAVI中具有实际优势。
引用
@article{arxiv.2409.12695,
title = {Exploring Large Language Models for Product Attribute Value Identification},
author = {Kassem Sabeh and Mouna Kacimi and Johann Gamper and Robert Litschko and Barbara Plank},
journal= {arXiv preprint arXiv:2409.12695},
year = {2024}
}