中文

PRISM:通过各向异性谱 shaping 实现结构化优化

机器学习 2026-02-04 v1 人工智能

摘要

我们提出了 PRISM,这是一种优化器,通过创新扩充的极坐标分解来构建高效低秩准二阶预条件器。该机制使 PRISM 能够进行各向异性谱 shaping,这会自适应地抑制高方差子空间中的更新,同时保持信号主导方向上的更新强度。关键的是,这是在没有额外计算开销和零额外内存的情况下实现的。PRISM 显示出将曲率自适应属性集成到谱优化范式中的实用策略。

关键词

引用

@article{arxiv.2602.03096,
  title  = {PRISM: Structured Optimization via Anisotropic Spectral Shaping},
  author = {Yujie Yang},
  journal= {arXiv preprint arXiv:2602.03096},
  year   = {2026}
}