非凸在线优化中的延迟反馈：一种非平稳方法及其应用
机器学习
2024-12-20 v1
摘要
我们研究非凸延迟噪声在线优化问题，通过评估在非平稳设置下对动态谢策的评估，当损失函数为准凸时。具体而言，我们考虑准凸函数的情形，无论是具有 Lipschitz 梯度还是弱光滑的，对于每种情况，我们确保以累积路径变动为界的有界动态谢策，实现亚线性谢策率。此外，我们通过将该理论框架应用于零阶（bandit）等理论设置以及实际应用中的二次分数函数，展示了该框架的灵活性。我们还通过证明可微强准凸函数（Polyak 1966）在凸紧致集上是强准凸的，提供了若干非凸函数的新实例。最后，多个数值实验验证了我们的理论发现，说明了我们方法的有效性。
引用
@article{arxiv.2412.14505,
title = {A hybrid framework for effective and efficient machine unlearning},
author = {Mingxin Li and Yizhen Yu and Ning Wang and Zhigang Wang and Xiaodong Wang and Haipeng Qu and Jia Xu and Shen Su and Zhichao Yin},
journal= {arXiv preprint arXiv:2412.14505},
year = {2024}
}
备注
14 pages, 5 figures, accepted by CSE2024