尖锐、平坦与浅显：弱交互智能体能否学会逃离不良极小值
机器学习
2019-05-13 v1 机器学习
多智能体系统
摘要
机器学习中的一个开放性问题是平坦极小值是否泛化更好，以及如何高效地计算此类极小值。这是一个极具挑战性的问题。作为理解该问题的第一步，我们将其形式化为一个具有弱交互智能体的优化问题。我们回顾了随机过程理论中的相关背景材料，并提供了对从业者有价值的见解。我们提出了一种扩展随机梯度朗之万动力学的算法框架，并展示了其潜力。本文以教程形式撰写，提出了多智能体学习的一种替代用法。我们的主要焦点在于为机器学习应用设计算法；然而其底层的数学框架适用于理解社会科学、经济学和金融学中流行的基于智能体的大规模系统模型。
引用
@article{arxiv.1905.04121,
title = {The sharp, the flat and the shallow: Can weakly interacting agents learn to escape bad minima?},
author = {Nikolas Kantas and Panos Parpas and Grigorios A. Pavliotis},
journal= {arXiv preprint arXiv:1905.04121},
year = {2019}
}