多类学习器的PAC-Bayesian域适应界
机器学习
2022-07-13 v1
摘要
多类神经网络是现代无监督域适应中的常用工具，但适应文献中缺乏对其非均匀样本复杂度的恰当理论描述。为填补此空白，我们提出了首个面向多类学习器的PAC-Bayesian适应界。为便于实际使用我们的界，我们还提出了对所考虑多类分布散度的首个近似技术。对于依赖于Gibbs预测器的散度，我们提出了额外的PAC-Bayesian适应界，消除了低效蒙特卡洛估计的需要。在实证上，我们测试了所提近似技术以及一些纳入我们界中的新颖设计概念的有效性。最后，我们应用我们的界分析了使用神经网络的一种常见适应算法。
引用
@article{arxiv.2207.05685,
title = {PAC-Bayesian Domain Adaptation Bounds for Multiclass Learners},
author = {Anthony Sicilia and Katherine Atwell and Malihe Alikhani and Seong Jae Hwang},
journal= {arXiv preprint arXiv:2207.05685},
year = {2022}
}