坐标wise Armijo 条件

设 $z=(x,y)$ 为乘积空间 $\mathbb{R}^{m_1}\times \mathbb{R}^{m_2}$ 的坐标。设 $f:\mathbb{R}^{m_1}\times \mathbb{R}^{m_2}\rightarrow \mathbb{R}$ 为 $C^1$ 函数，$\nabla f=(\partial _xf,\partial _yf)$ 为其梯度。固定 $0<\alpha <1$。对于点 $(x,y) \in \mathbb{R}^{m_1}\times \mathbb{R}^{m_2}$，若以下不等式成立，则数 $\delta >0$ 在 $(x,y)$ 处满足 Armijo 条件：\begin{eqnarray*} f(x-\delta \partial _xf,y-\delta \partial _yf)-f(x,y)\leq -\alpha \delta (||\partial _xf||^2+||\partial _yf||^2). \end{eqnarray*} 当 $f(x,y)=f_1(x)+f_2(y)$ 为坐标wise和映射时，我们提出如下{\bf 坐标wise} Armijo 条件。再次固定 $0<\alpha <1$。若以下不等式成立，则正数对 $\delta _1,\delta _2>0$ 在 $(x,y)$ 处满足坐标wise变体的 Armijo 条件：\begin{eqnarray*} [f_1(x-\delta _1\nabla f_1(x))+f_2(y-\delta _2\nabla f_2(y))]-[f_1(x)+f_2(y)]\leq -\alpha (\delta _1||\nabla f_1(x)||^2+\delta _2||\nabla f_2(y)||^2). \end{eqnarray*} 然后我们将我们近期关于回溯梯度下降及其某些变体的结果推广到这一设定。我们通过一个例子展示了使用坐标wise Armijo 条件相对于通常 Armijo 条件的优势。