利用PAC-贝叶斯理论和吉布斯分布推导具有复杂度度量的泛化界

在统计学习理论中，泛化界通常涉及所考虑的理论框架所施加的复杂度度量。这限制了此类界的范围，因为算法中使用了其他形式的容量度量或正则化。在本文中，我们利用分解的PAC-贝叶斯界框架推导出一个通用的泛化界，该界可实例化为任意复杂度度量。证明这样一个结果的一个技巧是考虑一个常用的分布族：吉布斯分布。我们的界在假设和学习样本上联合依概率成立，这使得复杂度能够适应泛化差距，因为它可以针对假设类和任务进行定制。