将表格作为大型语言模型的模态
计算与语言
2026-01-08 v2 人工智能
摘要
为将大型语言模型（LLM）的显著成功推广到表格推理任务以适应广泛部署的表格数据，社区已作诸多努力。尽管如此，本 work 通过对我们提出的StructQA基准进行探针实验，我们推测即便是最先进的LLM（如GPT）在处理表格数据方面仍显不足。更具体地说，当前方法往往仅依赖于序列化表格数据及其元信息，然后通过LLM输入。我们认为，这种做法导致结构信息的丢失，是此类不足的根本原因。本 work 进一步提出TAMO，其理念是将表格视为独立于文本标记的模态进行整合。TAMO产生的模型是一个由超图神经网络作为全局表格编码器，无缝集成到主流LLM中的多模态框架。各种基准数据集（包括HiTab、WikiTQ、WikiSQL、FeTaQA和StructQA）上的实验结果表明，我们的方法在泛化能力上实现了显著提升，平均相对提升幅度达42.65%。
引用
@article{arxiv.2512.00947,
title = {Table as a Modality for Large Language Models},
author = {Liyao Li and Chao Ye and Wentao Ye and Yifei Sun and Zhe Jiang and Haobo Wang and Jiaming Tian and Yiming Zhang and Ningtao Wang and Xing Fu and Gang Chen and Junbo Zhao},
journal= {arXiv preprint arXiv:2512.00947},
year = {2026}
}
备注
Accepted to NeurIPS 2025