中文

OptiRouette 优化器:一种实现收敛速度提升最高5.3倍的随机元优化器

机器学习 2026-03-11 v2 人工智能 计算机视觉与模式识别 神经与进化计算

摘要

本文提出OptiRouette,一种在训练期间选择更新规则的随机元优化器,区别于固定单一优化器。该方法结合热身优化器锁定、从活跃优化器池中随机抽样、优化器转换时的兼容性感知学习率缩放以及故障感知池替换。OptiRouette实现为即插即用的“torch.optim.Optimizer兼容”组件,并封装为pip安装包。我们在五个图像分类数据集上完成了10次随机种子实验:CIFAR-100、CIFAR-100-C、SVHN、Tiny ImageNet和Caltech-256。相较于单优化器AdamW基线,OptiRouette在CIFAR-100上的平均测试准确率从0.6734提升至0.7656(提升9.22个百分点),在CIFAR-100-C上从0.2904提升至0.3355(提升4.52个百分点),在SVHN上从0.9667提升至0.9756(提升0.89个百分点),在Tiny ImageNet上从0.5669提升至0.6642(提升9.73个百分点),在Caltech-256上从0.5946提升至0.6920(提升9.74个百分点)。其主要优势在于更可靠的收敛性:在更高的目标精度下,OptiRouette在10/10次实验中均达到CIFAR-100/CIFAR-100-C 0.75、SVHN 0.96、Tiny ImageNet 0.65和Caltech-256 0.62的验证准确率,而AdamW基线在预算内未能达到任何目标。针对共享目标,OptiRoulette还缩短了达到目标的时间(例如Caltech-256在0.59时的epoch数为25.7 vs 77.0)。所有数据集的配对随机种子差值为正值;目前10次随机种子研究中,唯一一个未达到统计显著性的指标是CIFAR-100-C测试ROC-AUC。

关键词

引用

@article{arxiv.2603.06613,
  title  = {OptiRoulette Optimizer: A New Stochastic Meta-Optimizer for up to 5.3x Faster Convergence},
  author = {Stamatis Mastromichalakis},
  journal= {arXiv preprint arXiv:2603.06613},
  year   = {2026}
}

备注

23 pages, 10 figures, 7 tables