面向表格生成建模的统一框架：损失函数、基准测试与改进的多目标贝叶斯优化方法
机器学习
2026-05-06 v2
摘要
深度学习（DL）模型需要大量数据才能实现卓越的性能和泛化能力。深度生成模型（DGMs）通过合成数据提供了解决方案。然而，当前针对表格数据的方法在训练过程中往往难以保持特征相关性和分布，同时在多指标超参数选择上存在困难，且缺乏全面的评估协议。我们通过一个统一框架来弥补这一差距，该框架集成了训练、超参数调优和评估三个环节。首先，我们引入一种新型的关联性和分布感知损失函数，以正则化DGMs，增强其生成能够忠实代表数据底层分布的合成表格数据的能力。理论分析给出了稳定性和一致性保证。为实现基于贝叶斯优化（BO）的原则化超参数搜索，我们还提出了一种基于迭代目标细化贝叶斯优化（IORBO）的新型多目标聚合策略，以及一个全面的统计测试框架。我们使用包含二十个真实数据集和十个已建立表格DGM基准的方法进行验证。关联感知损失函数显著提升了合成数据保真度和下游机器学习（ML）性能，而IORBO在超参数选择方面 consistently 优于标准贝叶斯优化（SBO）。该统一框架超越了孤立方法改进，推动了表格生成建模的整体进步。代码已公开：https://github.com/vuhoangminh/TabGen-Framework
引用
@article{arxiv.2405.16971,
title = {A Unified Framework for Tabular Generative Modeling: Loss Functions, Benchmarks, and Improved Multi-objective Bayesian Optimization Approaches},
author = {Minh H. Vu and Daniel Edler and Carl Wibom and Tommy Löfstedt and Beatrice Melin and Martin Rosvall},
journal= {arXiv preprint arXiv:2405.16971},
year = {2026}
}
备注
Published in Transactions on Machine Learning Research (TMLR), 2026. Code available at https://github.com/vuhoangminh/TabGen-Framework