BERT 去购物：比较用于产品表示的分布模型
计算与语言
2021-06-24 v2 信息检索
摘要
词嵌入（如 word2vec）已通过 prod2vec 成功应用于电子商务产品。受近期上下文嵌入在多项 NLP 任务上带来的性能提升启发，我们提出将类 BERT 架构迁移到电子商务：我们的模型——Prod2BERT——通过掩码会话建模来生成产品表示。通过在多家店铺、不同任务和一系列设计选择上的大量实验，我们系统地比较了 Prod2BERT 与 prod2vec 嵌入的准确率：虽然 Prod2BERT 在多个场景中被发现更优，但我们强调了资源与超参数在最佳性能模型中的重要性。最后，我们为从业者在多种计算与数据约束下训练嵌入提供了指导。
引用
@article{arxiv.2012.09807,
title = {BERT Goes Shopping: Comparing Distributional Models for Product Representations},
author = {Federico Bianchi and Bingqing Yu and Jacopo Tagliabue},
journal= {arXiv preprint arXiv:2012.09807},
year = {2021}
}
备注
Updated version. Published as a workshop paper at ECNLP 4 at ACL-IJCNLP 2021