通过异步随机连续凸近似实现的实用预编码
最优化与控制
2021-09-01 v1 机器学习
信号处理
摘要
我们考虑具有凸非光滑正则化器的光滑非凸损失函数的随机优化。在在线设置中，每次迭代仅可获得损失函数随机梯度的一个样本，该问题可使用近端随机梯度下降（SGD）算法及其变体求解。然而在许多问题中，尤其是通信与信号处理中出现的问题，得益于损失函数的结构，除随机梯度外还可获得更多信息。此类额外梯度信息未被 SGD 使用，但已被证明是有用的，例如在随机期望最大化、随机优超最小化以及随机连续凸近似（SCA）方法中。通过在每次迭代构造损失的随机强凸代理，随机 SCA 算法可利用损失函数的结构性质，并取得优于 SGD 的经验性能。在本工作中，我们仔细审视随机 SCA 算法并开发其异步变体，可用于无线网络中的资源分配。尽管随机 SCA 算法已知渐近收敛，其迭代复杂度尚未被充分研究，也是当前工作的重点。从非渐近分析获得的洞见使我们能开发更实用的异步随机 SCA 变体，允许使用较早迭代中计算的代理。我们刻画了算法可容忍的最大延迟的精确界，同时仍实现相同收敛速率。我们将该算法应用于无线传感器网络中的线性预编码问题，其可以低复杂度实现，并在实践中表现良好。
引用
@article{arxiv.2010.01360,
title = {Practical Precoding via Asynchronous Stochastic Successive Convex Approximation},
author = {Basil M. Idrees and Javed Akhtar and Ketan Rajawat},
journal= {arXiv preprint arXiv:2010.01360},
year = {2021}
}