面向协变量迁移下受约束密度比网络的即时 PAC-Bayes 学习
机器学习
2026-05-25 v2
摘要
本文提出了一个在协变量迁移下学习的统一框架,其中受约束的密度比网络逼近 Radon-Nikodym 导数 ,并输入即时 PAC-Bayes 泛化证书。一种 change-of-measure identity 将目标风险与 importance-weighted source risk 之间的差距分解为由 控制的 ratio-bias 项以及由加权损失的 variability 控制的 generalization-gap 项。在增强拉格朗日方案中,通过硬积分约束强制执行归一化和矩匹配 identity,同时通过 second-moment penalty 控制有效样本量。将 PAC-Bayes 在固定时间段中在加权风险上实例化,可获得 Bernoulli-KL 界,识别网络加权 Gibbs posterior 作为唯一的 KL 正则化最小化者,定量评估在 扰动下的稳定性,然后通过几何 peeling 强化为在 时均匀的即时证书。经预先登记的两项验证方案结合了针对解析 ground truth 的 patch test 与真实数据部署:网络产生了校准的比率,减少了目标 损失,相较于未加权 ERM 和经典 direct ratio-estimation baseline;并实现了即时证书。记录了一个固定时间的覆盖失败,分裂的覆盖程度与标签迁移的大小一一吻合,确认协变量-only 假设在操作上是严格的,而非证书的缺陷。
引用
@article{arxiv.2605.17212,
title = {Anytime PAC-Bayes for Constrained Density-Ratio Networks under Covariate Shift},
author = {Paulo Akira F. Enabe},
journal= {arXiv preprint arXiv:2605.17212},
year = {2026}
}