中文

拥塞博弈中常步长乘性权重更新:收敛、极限环与混沌

计算机科学与博弈论 2017-03-06 v1

摘要

乘性权重更新 (MWU) 方法是一种无处不在的元算法,其工作原理如下:在某个集合上维持一个分布,并在每一步将分配给元素 γ\gamma 的概率乘以 (1ϵC(γ))>0(1 -\epsilon C(\gamma))>0,其中 C(γ)C(\gamma) 是元素 γ\gamma 的“代价”,然后进行重缩放以确保新值构成一个分布。我们分析了拥塞博弈中的 MWU,其中智能体使用任意可容许常数作为学习率 ϵ\epsilon,并证明了其收敛于精确 Nash 均衡。我们的证明利用了 MWU 与 Baum-Welch 算法(隐马尔可夫模型 (HMM) 的期望最大化 (EM) 算法的标准实例)之间的新颖联系。有趣的是,这一收敛结果并不适用于近乎同源的 MWU 变体——在该变体中,每一步分配给元素 γ\gamma 的概率被乘以 (1ϵ)C(γ)(1 -\epsilon)^{C(\gamma)}——即使对于最简单的双智能体、双策略负载均衡博弈也是如此,在这种博弈中,此类动力学被证明可以导致极限环甚至混沌行为。

关键词

引用

@article{arxiv.1703.01138,
  title  = {Multiplicative Weights Update with Constant Step-Size in Congestion Games: Convergence, Limit Cycles and Chaos},
  author = {Gerasimos Palaiopanos and Ioannis Panageas and Georgios Piliouras},
  journal= {arXiv preprint arXiv:1703.01138},
  year   = {2017}
}

备注

17 pages, 9 figures