Word2Vec 在推荐中的应用：超参数至关重要
信息检索
2018-08-30 v3 计算与语言
机器学习
机器学习
摘要
负采样的 Skip-gram 是 Word2vec 的一种流行变体，最初设计并调优用于为自然语言处理创建词嵌入，现已被用于创建物品嵌入并在推荐中取得成功应用。尽管这些领域不共享同一类型的数据，也不在相同的任务上评估，推荐应用往往使用相同的已调优超参数值，即使最优超参数值通常已知是依赖于数据和任务的。因此，我们通过在多个数据集上进行大规模超参数网格搜索，研究在推荐设定下每个超参数的边际重要性。结果显示，优化被忽视的超参数，即负采样分布、训练轮数、子采样参数和窗口大小，显著提升了推荐任务的性能，并可使性能提升一个数量级。重要的是，我们发现自然语言处理任务与推荐任务的最优超参数配置明显不同。
引用
@article{arxiv.1804.04212,
title = {Word2Vec applied to Recommendation: Hyperparameters Matter},
author = {Hugo Caselles-Dupré and Florian Lesaint and Jimena Royo-Letelier},
journal= {arXiv preprint arXiv:1804.04212},
year = {2018}
}
备注
This paper is published on the 12th ACM Conference on Recommender Systems, Vancouver, Canada, 2nd-7th October 2018