分布式非随机专家

我们考虑在线分布式非随机专家问题，其中分布式系统由一个协调节点组成，该节点连接到 $k$ 个站点，且站点必须通过协调节点相互通信。在每个时间步 $t$，$k$ 个站点节点中的一个必须从集合 ${1, ..., n}$ 中选择一个专家，且同一站点接收该轮次所有专家收益的信息。分布式系统的目标是在时间范围 $T$ 内最小化遗憾 (regret)，同时尽可能减少通信量。该问题的两个极端解法是：(i) 完全通信：这实质上模拟了非分布式设定，以获得最优的 $O(\sqrt{\log(n)T})$ 遗憾界，但代价是 $T$ 的通信量。(ii) 无通信：每个站点运行一个独立副本：遗憾为 $O(\sqrt{\log(n)kT})$，通信量为 0。本文展示了同时实现渐近优于 $\sqrt{kT}$ 的遗憾和优于 $T$ 的通信量的难度。我们提出了一种新算法，对于 oblivious adversary，该算法实现了非平凡的权衡：对于任意 $\epsilon \in (0, 1/5)$，遗憾为 $O(\sqrt{k^{5(1+\epsilon)/6} T})$，通信量为 $O(T/k^{\epsilon})$。我们还考虑了该模型的一个变体，其中由协调节点选择专家。在该模型中，我们表明 Cesa-Bianchi 等人 (2005) 提出的标签高效预测器 (label-efficient forecaster) 已经提供了一种在遗憾与通信权衡方面接近最优的策略。