通过 Legendre 变换实现测度变换

Antoine Picard-Weibel; Benjamin Guedj

通过 Legendre 变换实现测度变换

机器学习 2026-05-15 v2 信息论机器学习 math.IT 概率论统计理论统计理论

作者: Antoine Picard-Weibel , Benjamin Guedj

摘要

PAC-Bayes 泛化界是通过测度变换不等式推导的，这些不等式将集中性质从参考测度转移到所有后验测度。测度变换的具体选择决定了经验风险所需的假设；特别地，经典的 Donsker--Varadhan 定理导出了依赖有界指数矩的界。我们研究基于 $f$ -散度的测度变换不等式，通过将 $f$ 的 Legendre 变换与 Fenchel--Young 不等式相结合得到。除其在概率论中的内在意义外，我们展示了这些不等式如何在学习理论中发挥作用，并在针对经验风险的定制假设下给出 PAC-Bayes 界，从而拓展了可建立 PAC-Bayesian 保证的条件范围。

关键词

PAC-Bayes 测度变换 Legendre 变换 f-散度 Fenchel-Young 不等式泛化界学习理论

引用

@article{arxiv.2202.05568,
  title  = {Change of measure through the Legendre transform},
  author = {Antoine Picard-Weibel and Benjamin Guedj},
  journal= {arXiv preprint arXiv:2202.05568},
  year   = {2026}
}

备注

27 pages

通过 Legendre 变换实现测度变换

摘要

关键词

引用

备注

相关论文