通过生成对抗网络修正模型误设定
机器学习
2023-04-11 v1
摘要
机器学习模型在似然上常常存在误设定，导致预测缺乏鲁棒性。在本文中，我们引入了一个框架，用于修正若干范式无关的含噪先验模型中的似然误设定，并检验该模型消除误设定的能力。所引入的“ABC-GAN”框架是一种新颖的生成建模范式，它结合了生成对抗网络（GANs）与近似贝叶斯计算（ABC）。这一新范式通过 ABC 将建模过程中任何可用的主观知识作为正则化项引入，从而辅助现有 GANs，得到一个在低数据情形下表现良好的部分可解释模型。同时，与任何贝叶斯分析不同，显式知识无需完美，因为 GAN 中的生成器可被构造得任意复杂。ABC-GAN 消除了对摘要统计量和距离度量的需求，因为判别器隐式地学习它们，并能够同时设定多个生成模型。在我们的实验中，通过引入具有不同偏差和方差的噪声来模拟模型误设定。修正项通过带有跳跃连接的 ABC-GAN（称为 skipGAN）学习得到。跳跃连接的强度指示所需的修正量或先验模型的误设定程度。基于一个简单的实验设置，我们表明 ABC-GAN 模型不仅修正了先验的误设定，而且在更噪声的条件下表现与相应先验相当或更好。在本提案中，我们展示了 ABC-GAN 兼得两者之长。
引用
@article{arxiv.2304.03805,
title = {Correcting Model Misspecification via Generative Adversarial Networks},
author = {Pronoma Banerjee and Manasi V Gude and Rajvi J Sampat and Sharvari M Hedaoo and Soma Dhavala and Snehanshu Saha},
journal= {arXiv preprint arXiv:2304.03805},
year = {2023}
}