负采样重要吗?对其理论与应用的综述及洞察
机器学习
2024-02-28 v1
摘要
负采样已迅速成为研究焦点,其应用广泛涵盖机器学习、计算机视觉、自然语言处理、数据挖掘和推荐系统等领域。这种日益增长的兴趣引发了几个关键问题:负采样真的重要吗?是否存在一个可以整合所有现有负采样方法的通用框架?它应用于哪些领域?针对这些问题,我们提出了一个利用负采样的通用框架。通过深入探究负采样的历史,我们追溯了其通过五条演化路径的发展过程。我们剖析并分类了用于选择负样本候选的策略,详细介绍了基于全局、局部、小批量、跳数和记忆的方法。我们的综述将当前的负采样方法分为五类:静态方法、困难样本方法、基于 GAN 的方法、基于辅助任务的方法和批内方法,为理解负采样提供了清晰的结构。除了详细的分类外,我们还强调了负采样在各个领域的应用,提供了对其实际效益的洞察。最后,我们简要讨论了负采样的开放性问题和未来方向。
引用
@article{arxiv.2402.17238,
title = {Does Negative Sampling Matter? A Review with Insights into its Theory and Applications},
author = {Zhen Yang and Ming Ding and Tinglin Huang and Yukuo Cen and Junshuai Song and Bin Xu and Yuxiao Dong and Jie Tang},
journal= {arXiv preprint arXiv:2402.17238},
year = {2024}
}
备注
20 pages, 11 figures