TableGPT2：融合表格数据的大规模多模态模型
机器学习
2024-11-08 v3 人工智能
数据库
摘要
GPT、Claude、LLaMA 和 Qwen 等模型的出现重塑了 AI 应用，为各行各业带来了广阔的新机遇。然而，表格数据的集成仍然显著不发达，尽管它在众多现实领域中扮演基础性角色。这一差距至关重要，原因有三。第一，数据库或数据仓库的数据集成对于高级应用必不可少；第二，大量且尚未开发的表格数据资源具有巨大的分析潜力；第三，商业智能领域特别需要适应性强的精确解决方案，而许多当前的大规模语言模型可能难以提供。作为回应，我们引入了 TableGPT2，一个经过严格预训练微调的模型，使用超过 593.8K 个表格和 2.36M 个高质量查询-表格-输出元组进行训练，这是先前研究中前所未有的表格相关数据规模。这种广泛的训练使 TableGPT2 在以表格为中心的任务上表现出色，同时保持了强大的通用语言和编码能力。TableGPT2 的关键创新之一是其新颖的表格编码器，专门设计用于捕获模式级别和单元格级别的信息。该编码器增强了模型处理模糊查询、缺失列名和现实应用中常见的不规则表格的能力。与视觉语言模型类似，这种开创性方法与解码器集成，形成一个强大的大规模多模态模型。结果令人信服：在 23 多项基准测试指标上，TableGPT2 在 7B 模型中相比先前的基准无关 LLM 实现了平均 35.20% 的性能提升，在 72B 模型中实现了 49.32% 的提升，同时保持了强大的通用能力。
引用
@article{arxiv.2411.02059,
title = {TableGPT2: A Large Multimodal Model with Tabular Data Integration},
author = {Aofeng Su and Aowen Wang and Chao Ye and Chen Zhou and Ga Zhang and Gang Chen and Guangcheng Zhu and Haobo Wang and Haokai Xu and Hao Chen and Haoze Li and Haoxuan Lan and Jiaming Tian and Jing Yuan and Junbo Zhao and Junlin Zhou and Kaizhe Shou and Liangyu Zha and Lin Long and Liyao Li and Pengzuo Wu and Qi Zhang and Qingyi Huang and Saisai Yang and Tao Zhang and Wentao Ye and Wufang Zhu and Xiaomeng Hu and Xijun Gu and Xinjie Sun and Xiang Li and Yuhang Yang and Zhiqing Xiao},
journal= {arXiv preprint arXiv:2411.02059},
year = {2024}
}