P-TA：使用近端策略优化提升基于大语言模型的表格数据增强
机器学习
2025-02-25 v2
摘要
众多行业依赖准确且合理的表格数据增强以支持其业务流程。当代表格数据生成方法主要依赖生成对抗网络（GAN）或微调大语言模型（LLM）。然而，GAN方法因缺乏外部知识常产生常识错误。另一方面，LLM方法因缺乏判别器训练期间的反馈，难以捕捉合成数据与实际数据分布之间的差异。此外，LLM生成的解码会引入梯度中断，阻碍判别器损失的反向传播， complicating其与这两种方法的集成。为解决此挑战，我们提出使用近端策略优化（PPO）来指导LLM增强表格特征的概率分布。该方法使我们能够将LLM作为GAN的生成器，用于合成表格数据。我们的实验表明，PPO在三个真实世界数据集上训练的模型准确率提高了约4%，超过了当前最先进的方法。
引用
@article{arxiv.2406.11391,
title = {P-TA: Using Proximal Policy Optimization to Enhance Tabular Data Augmentation via Large Language Models},
author = {Shuo Yang and Chenchen Yuan and Yao Rong and Felix Steinbauer and Gjergji Kasneci},
journal= {arXiv preprint arXiv:2406.11391},
year = {2025}
}