具有 Barzilai-Borwein 步长的次线性后悔界

本文考虑使用 Barzilai-Borwein 拟牛顿法的在线场景。在在线优化问题中，在线智能体使用某种算法在每个时间步决定一个目标，之后可能遭遇损失。尽管在线参与者理想情况下会试图在每个时间步做出最佳决策，但与其决策相关联存在一个后悔概念。由于拟牛顿法具有快速收敛性质，本研究考察了使用此类优化方法的在线参与者的后悔。本文选择 Barzilai-Borwein (BB) 梯度法而非其他拟牛顿法（如 Broyden-Fletcher-Goldfarb-Shanno (BFGS) 算法），是因为其计算复杂度较低。此外，BB 梯度法适用于大规模优化问题，包括本文所提出的在线优化场景。为证实 Barzilai-Borwein (BB) 梯度算法的有效性，本研究基于两种 BB 步长使用了一种贪婪在线梯度算法。通过对 BB 步长进行严格后悔分析，确立了 BB 算法所得后悔关于时间是次线性的。此外，本文表明，在使用在线 BB 算法时，平均后悔趋于零，且未假设待最小化代价函数的强凸性。