中文

DualOptim:通过双优化器增强机器不可知的 efficacy 与稳定性

机器学习 2025-11-03 v2 人工智能

摘要

现有的机器不可知(MU)方法对超参数高度敏感,需要精细调优以限制实际部署。在本工作中,我们首先实证表明,当在不同场景中部署时,现有流行的 MU 方法存在显著不稳定性和次优性能。为此,我们提出双优化器(DualOptim),其包含自适应学习率和解耦动量因子。经验和理论证据表明,DualOptim 有助于实现有效且稳定的不可知。通过大量实验,我们展示 DualOptim 在包括图像分类、图像生成和大型语言模型在内的多种任务中显著提升了 MU 的 efficacy 与稳定性,使其成为一种多功能的方法,可赋能现有 MU 算法。

关键词

引用

@article{arxiv.2504.15827,
  title  = {DualOptim: Enhancing Efficacy and Stability in Machine Unlearning with Dual Optimizers},
  author = {Xuyang Zhong and Haochen Luo and Chen Liu},
  journal= {arXiv preprint arXiv:2504.15827},
  year   = {2025}
}