关于准惩罚稀疏约束优化的新界限:伪正规性条件
机器学习
2026-05-19 v1
摘要
稀疏学习和信号恢复中的基数约束优化(CCO)是热门话题,但由于基数约束的内在非凸性和不连续性,仍具有挑战性。本文研究具有一般等式和不等式约束的 CCO 问题的准惩罚理论。特别是,我们将伪正规性条件扩展到基数约束框架,并在不要求目标函数满足 Lipschitz 连续性的前提下建立局部精确惩罚。我们进一步分析了投影亚梯度法及其随机变体,并给出收敛保证。与现有结果相比,我们给出迭代序列和目标函数值的更精确界限。
引用
@article{arxiv.2605.16686,
title = {Scalable Knowledge Editing for Mixture-of-Experts LLMs via Tensor-Structured Updates},
author = {Roman Maksimov and Vladimir Aletov and Dmitry Bylinkin and Daniil Medyakov and Vladimir Solodkin and Aleksandr Beznosikov},
journal= {arXiv preprint arXiv:2605.16686},
year = {2026}
}
备注
17 pages, 3 architectures, 1 figure, 6 tables