PRISM:通过各向异性谱 shaping 实现结构化优化
机器学习
2026-02-04 v1 人工智能
摘要
我们提出了 PRISM,这是一种优化器,通过创新扩充的极坐标分解来构建高效低秩准二阶预条件器。该机制使 PRISM 能够进行各向异性谱 shaping,这会自适应地抑制高方差子空间中的更新,同时保持信号主导方向上的更新强度。关键的是,这是在没有额外计算开销和零额外内存的情况下实现的。PRISM 显示出将曲率自适应属性集成到谱优化范式中的实用策略。
关键词
引用
@article{arxiv.2602.03096,
title = {PRISM: Structured Optimization via Anisotropic Spectral Shaping},
author = {Yujie Yang},
journal= {arXiv preprint arXiv:2602.03096},
year = {2026}
}