通过贝叶斯校准实现稀有关系数据的自强化可控合成
机器学习
2026-04-28 v2 人工智能
摘要
不平衡数据在实际应用中常见。虽然数据合成能够有效缓解稀有类别的数据稀缺问题,而大语言模型(LLM)在文本生成方面取得了突破,但将大语言模型应用于关系/结构化表格数据的合成仍属未充分探索的领域。此外,现有方法缺乏有效的反馈机制,以引导大语言模型在合成过程的不同阶段持续优化生成数据的质量。本文提出了 RDDG(Relational Data generator with Dynamic Guidance),一种统一的基于原语学习的框架,采用渐进式链式思维(CoT)步骤来生成表格数据,以增强下游不平衡分类任务的性能。RDDG 首先使用核心集选择从原始数据中识别代表性样本,然后利用原语学习发现核心集中属性之间内在的模式和关联性,随后在保持上述约束的同时生成表格数据。更重要的是,它融入了自强化反馈机制,提供对生成数据质量的自动评估,使生成过程中的质量优化得以持续进行。实验结果表明,在多个真实和合成数据集上,RDDG 在数据保真度和下游不平衡分类性能方面均优于现有方法。我们已在 https://github.com/cszhangLMU/RDDG 上公开代码。
引用
@article{arxiv.2604.16817,
title = {Self-Reinforcing Controllable Synthesis of Rare Relational Data via Bayesian Calibration},
author = {Chongsheng Zhang and Hao Wang and Zelong Yu and Esteban Garces Arias and Julian Rodemann and Zhanshuo Zhang and Qilong Li and Gaojuan Fan and Krikamol Muandet and Christian Heumann},
journal= {arXiv preprint arXiv:2604.16817},
year = {2026}
}
备注
Accepted at: Findings of the Association for Computational Linguistics: ACL 2026 (ACL 2026 Findings), San Diego, California, USA, July 2-7, 2026