中文

面向合作博弈的基于能量的学习及其在机器学习估值问题中的应用

机器学习 2022-05-13 v4

摘要

估值问题,如特征解释、数据估值以及集成模型的模型估值,在许多机器学习应用中变得愈发重要。此类问题通常通过著名的博弈论准则(如 Shapley 值或 Banzhaf 值)求解。本工作中,我们提出了一种新颖的面向合作博弈的基于能量的处理方法,并通过最大熵框架给出理论依据。令人惊讶的是,通过对基于能量的模型进行变分推断,我们通过对均值场 ELBO 目标执行一步定点迭代,恢复了多种博弈论估值准则。该观察也验证了现有准则的合理性,因为它们都试图通过均值场方法解耦参与者之间的相关性。通过运行多步定点迭代,我们获得了一条估值轨迹,其中我们将具有最优可设想解耦误差的估值定义为变分指数(Variational Index)。我们证明在均匀初始化下,这些变分估值均满足一组博弈论公理。我们通过实验证明,所提出的变分指数在某些合成与真实世界估值问题上具有更低的解耦误差与更好的估值性能。

关键词

引用

@article{arxiv.2106.02938,
  title  = {Energy-Based Learning for Cooperative Games, with Applications to Valuation Problems in Machine Learning},
  author = {Yatao Bian and Yu Rong and Tingyang Xu and Jiaxiang Wu and Andreas Krause and Junzhou Huang},
  journal= {arXiv preprint arXiv:2106.02938},
  year   = {2022}
}

备注

ICLR 2022