超越乘性权重更新算法
分布式、并行与集群计算
2017-08-17 v1
摘要
乘性权重更新算法已被广泛用于设计多种计算任务的迭代算法。其核心思想是在一组专家上维护一个分布,并基于底层优化问题的参数以在线方式更新该分布。在本报告中,我们研究了一种特殊的 MWU 算法的行为,该算法用于在篡改专家建议的对手存在时生成全局掷币。具体而言,我们将注意力集中在两种对抗策略上:(1) 非自适应策略,即对手先验地选择固定的专家集合并破坏其在每一轮中的建议;(2) 自适应策略,即该集合随着算法轮次的推进而选择。我们将这些对抗策略表述为贪婪的,即试图最大化被破坏专家在 MWU 计算出的最终加权建议中所占的份额,并提供了为达成此目标所需求解的底层优化问题。我们提供的实证结果表明,在上述任一对手存在时,MWU 算法期望需要 轮即可产生期望的输出。该结果与当前通用拜占庭共识问题 的 SOTA 相比表现良好。最后,我们简要讨论了这些对抗策略在通用 MWU 算法上的扩展,并概述了该设定下的框架。
引用
@article{arxiv.1708.04668,
title = {Beating the Multiplicative Weights Update Algorithm},
author = {Abhinav Aggarwal and José Abel Castellanos Joo and Diksha Gupta},
journal= {arXiv preprint arXiv:1708.04668},
year = {2017}
}
备注
Word done as part of UNM CS506 term paper