带赌博机采样的坐标下降法

坐标下降法通常通过每次更新一个随机决策变量（对应一个坐标）来最小化代价函数。理想情况下，我们会更新使代价函数下降最多的决策变量。然而，寻找该坐标需要检查所有坐标，这将 effectively 抵消坐标下降本应带来的计算易处理性改进。为此，我们提出一种选择坐标的自适应新方法。首先，我们给出坐标更新时代价函数下降量的下界。随后，我们使用多臂赌博机算法来学习哪些坐标产生最大的下界，方法是将该学习与传统坐标下降更新交错进行，所不同的是坐标按期望下降量成比例选择。我们从理论和实验上均表明，我们的方法改善了坐标下降法的收敛性。