通过平坦 Hilbert 贝叶斯推断提升泛化能力
机器学习
2025-06-10 v2 机器学习
摘要
我们引入平坦 Hilbert 贝叶斯推断（FHBI），这是一种旨在增强贝叶斯推断泛化能力的算法。我们的方法涉及在再现性核希尔伯特空间中进行迭代两步过程，包括对抗函数扰动步骤和函数下降步骤。该方法得到理论分析的支持，这一分析将前述关于泛化能力的发现从有限维欧几里得空间扩展到无限维函数空间。为评估 FHBI 的有效性，我们在涵盖 19 个具有不同语义的多样数据集的 VTAB-1K 基准上进行了与九个基线方法的全面比较。实证结果表明，FHBI 在各基线方法上均以显著的优势表现，凸显了其实际效用。
引用
@article{arxiv.2410.04196,
title = {Improving Generalization with Flat Hilbert Bayesian Inference},
author = {Tuan Truong and Quyen Tran and Quan Pham-Ngoc and Nhat Ho and Dinh Phung and Trung Le},
journal= {arXiv preprint arXiv:2410.04196},
year = {2025}
}
备注
Accepted (ICML 2025)