自适应原对偶网络的稳定性与性能极限
最优化与控制
2015-05-14 v3 分布式、并行与集群计算
机器学习
多智能体系统
摘要
本研究探讨了用于流数据网络上自适应与学习的分布式原对偶策略。考虑了基于 Arrow-Hurwicz (AH) 和增广拉格朗日 (AL) 技术的两种一阶方法。发现了关于这些策略在自适应网络上应用时的性能与稳定性的若干启发性结果。结论表明，这些方法在确定性优化问题中的优势不一定能延续到随机优化问题中。研究发现，与一致性 (consensus) 和扩散 (diffusion) 类型的原方法相比，它们具有更窄的稳定范围和更差的稳态均方误差性能。还发现，在部分观测模型下，AH 技术可能变得不稳定，而其他技术则能够在该场景下恢复未知量。提出了一种通过将步长选择与其正则化参数绑定来提升 AL 策略性能的方法。研究表明，该方法使 AL 算法能够接近一致性和扩散策略的性能，但其稳定性仍低于这些其他策略。
引用
@article{arxiv.1408.3693,
title = {Stability and Performance Limits of Adaptive Primal-Dual Networks},
author = {Zaid J. Towfic and Ali H. Sayed},
journal= {arXiv preprint arXiv:1408.3693},
year = {2015}
}
备注
16 pages, 9 figures