用于二次判别的准几何不完整梯度下降

我们提出了一种在准几何流形上的不完整优化算法，灵感来自于高维低样本数 (HDLSS) 成像场景中的二次判别任务。在此类应用中，由于样本数量有限，梯度评估常常受偏差影响。为此，我们引入一种对不完整梯度信息鲁棒的新型准几何优化算法，并在标准假设下证明其收敛率为 $\mathcal O(1/K)$。我们还提出了一种需调用函数值但无需精确梯度的线搜索变体，保持相同的收敛率，同时确保充分下降。该算法针对 Grassmann 流形进行设计，利用其几何结构，数值验证了其收敛率。仿真结果表明，在引入偏差（无论是刻意引入还是通过协方差矩阵估计）后，算法解的检测性能与使用真实梯度时的表现相当。通过该算法学习的最优子空间编码了可解释的模式，并与已知最优解呈现定性相似性。通过确保鲁棒收敛和可解释性，我们的方法为基于流形的高维图像数据降维和判别提供了一个引人注目的工具。