动态博弈论神经优化器
机器学习
2021-06-14 v2 计算机科学与博弈论
最优化与控制
摘要
深度神经网络（DNN）训练与最优控制理论（OCT）之间的联系，作为一种算法设计的原理性工具已引起相当关注。尽管已有少量尝试，但它们局限于层传播类似于马尔可夫动力系统的架构。这令人怀疑其对严重依赖层间非马尔可夫依赖（如残差网络中的跳跃连接）的现代网络的灵活性。本工作中，我们提出一种新颖的动态博弈视角，将每一层视为由 DNN 本身刻画的动态博弈中的参与者。透过此视角，不同类别的优化器可视为匹配不同类型的纳什均衡，取决于各自（参与）层隐含的信息结构。所得方法称为动态博弈论神经优化器（DGNOpt），不仅将 OCT 启发的优化器推广到更丰富的网络类别；还通过求解多参与者合作博弈催生了新的训练原则。DGNOpt 在带有残差与 inception 网络的图像分类数据集上展现出相对于已有方法的收敛性改进。我们的工作融合了 OCT 与博弈论的优势，为来自鲁棒最优控制与基于 bandit 的优化的新算法机遇铺平道路。
引用
@article{arxiv.2105.03788,
title = {Dynamic Game Theoretic Neural Optimizer},
author = {Guan-Horng Liu and Tianrong Chen and Evangelos A. Theodorou},
journal= {arXiv preprint arXiv:2105.03788},
year = {2021}
}
备注
Accepted in International Conference on Machine Learning (ICML) 2021 as Oral