协同 bandit 算法的比较性能:稀疏性与探索强度的影响
机器学习
2025-10-07 v2
摘要
本文对协同 bandit 算法进行全面分析,并对其性能进行详尽比较。协同 bandit 旨在通过在臂(或项目)之间引入关系,提高情境 bandit 的性能,实现信息的有效传递。臂之间的协同合作允许通过单个用户(项目)获取的反馈在相关用户(项目)之间共享。引入协同合作也缓解了冷用户(冷项目)问题,即当新用户(项目)登录平台且暂无互动记录时缺乏历史信息。在建模臂(或项目)之间的关系时,主要有两种方法:硬聚类和软聚类。我们将以绝对方式建模臂之间关系的办法称为硬聚类,即该关系为二元的。软聚类放宽了成员约束,允许模糊赋值。我们聚焦于后者,提供了对最新协同情境 bandit 算法的大量实验,并研究了稀疏性及如何探索强度作为校正机制的作用。我们的数值实验表明,控制协同中的稀疏性可提高数据效率和性能,因为它更准确地 informs 学习。同时,增加探索强度可作为校正机制,因为它有效地减少了由于用户之间可能误指定关系而产生的方差。我们观察到,这种误指定进一步通过引入潜在因子来缓解,从而增加 bandit 参数的维度。
引用
@article{arxiv.2410.12086,
title = {Comparative Performance of Collaborative Bandit Algorithms: Effect of Sparsity and Exploration Intensity},
author = {Eren Ozbay and Ashkan Golgoon},
journal= {arXiv preprint arXiv:2410.12086},
year = {2025}
}
备注
23 pages, 6 figures