游戏论遇见深度学习中的统计力学
机器学习
2024-10-17 v1 计算机科学与博弈论
摘要
我们提出了一种新型深度图表示，无缝融合了游戏论原理与统计力学规律。它在单个学习框架中完成特征提取、降维和模式分类。我们的做法将网络中的神经元类比为游戏论模型中的玩家。此外，每个神经元（作为受统计物理定律约束的经典粒子）映射到一组代表特定激活值的行动，神经网络的层被概念化为顺序合作博弈论中的游戏。深度学习中的前向过程被解释为顺序博弈，其中每个博弈由一组玩家组成。在训练期间，神经元基于其对收益函数的贡献进行迭代评估和筛选，该收益函数通过能量函数驱动的Shapley值量化。那些显著贡献收益函数的神经元集合形成强大的联盟。只有这些神经元允许将信息向下一层传递。我们将此方法应用于人脸年龄估计和性别分类任务。实验结果表明，我们的方法在效率和准确性方面均优于多层感知器和卷积神经网络模型。
引用
@article{arxiv.2410.12264,
title = {Game Theory Meets Statistical Mechanics in Deep Learning Design},
author = {Djamel Bouchaffra and Fayçal Ykhlef and Bilal Faye and Hanane Azzag and Mustapha Lebbah},
journal= {arXiv preprint arXiv:2410.12264},
year = {2024}
}