面向大规模推荐系统的 Word2vec 调参
信息检索
2020-09-28 v1 计算与语言
机器学习
摘要
Word2vec 是一种源自自然语言处理（NLP）的强大机器学习工具，现被应用于多个领域，包括推荐系统、预测和网络分析。由于 Word2vec 常被开箱即用，我们探讨默认超参数是否适用于推荐系统。答案显然是否定的。在本文中，我们首先阐明超参数优化的重要性，并展示无约束优化相较默认参数在命中率上平均提升 221%。然而，无约束优化导致的超参数设置非常昂贵，对大规模推荐任务不可行。为此，我们展示了在运行时间预算约束的超参数优化下命中率平均提升 138%。此外，为使超参数优化能应用于目标数据集过大而无法搜索的大规模推荐问题，我们研究了从样本泛化超参数设置。我们展示仅使用 10% 数据样本进行约束超参数优化，应用于完整数据集时仍相较默认参数在命中率上平均提升 91%。最后，我们将以样本约束优化方法学到的超参数应用于 Twitter 的 Who To Follow 推荐服务，关注率提升了 15%。
引用
@article{arxiv.2009.12192,
title = {Tuning Word2vec for Large Scale Recommendation Systems},
author = {Benjamin P. Chamberlain and Emanuele Rossi and Dan Shiebler and Suvash Sedhain and Michael M. Bronstein},
journal= {arXiv preprint arXiv:2009.12192},
year = {2020}
}
备注
11 pages, 4 figures, Fourteenth ACM Conference on Recommender Systems