中文

有限内存下的探索:抛硬币、噪声比较与多臂老虎机的流式算法

数据结构与算法 2022-12-29 v2 机器学习

摘要

考虑如下抽象抛硬币问题:给定一组具有未知偏置的 nn 枚硬币,用最少的抛掷次数找出偏置最大的硬币。这是理论计算机科学与机器学习中各类探索问题的通用抽象,多年来已被广泛研究。特别地,该问题具有最优样本复杂度(抛硬币次数)的算法早已为人所知。受处理海量数据集应用的推动,我们研究在流式模型下以最优抛硬币次数解决该问题的空间复杂度。在此模型中,硬币逐个到达,算法在任何时刻只允许存储有限数量的硬币——任何不在内存中的硬币将丢失,无法再被抛掷或与到达的硬币比较。先前具有最优样本复杂度的抛硬币算法基于迭代淘汰硬币,这本质上要求存储所有硬币,导致内存低效的流式算法。我们通过提出一系列改进的流式算法弥补了这一状况:从一个仅需存储 O(logn)O(\log{n}) 枚硬币的简单算法起步,随后不断精炼,得到具有 O(loglog(n))O(\log\log{(n)}) 内存、O(log(n))O(\log^*{(n)}) 内存的算法,最终得到一个仅在内存中多存一枚硬币的算法——与在整个流中仅存储最优硬币所需空间完全相同。此外,我们将算法扩展至寻找 kk 枚最偏硬币的问题,以及其它探索问题,如利用噪声比较寻找前 kk 个元素或在随机多臂老虎机中寻找 ϵ\epsilon-最优臂,并为这些问题获得高效的流式算法。

关键词

引用

@article{arxiv.2004.04666,
  title  = {Exploration with Limited Memory: Streaming Algorithms for Coin Tossing, Noisy Comparisons, and Multi-Armed Bandits},
  author = {Sepehr Assadi and Chen Wang},
  journal= {arXiv preprint arXiv:2004.04666},
  year   = {2022}
}