表格作为文本或图像:评估 LLM 与 MLLM 的表格推理能力
机器学习
2024-10-18 v5 人工智能
计算与语言
计算机视觉与模式识别
摘要
本文研究了各种 LLM 通过不同提示策略和数据格式解释表格数据的有效性。我们的分析涵盖了问答和事实验证等表格相关任务的六个基准测试。我们首次引入了对 LLM 在基于图像的表格表示上性能的评估。具体而言,我们比较了五种基于文本和三种基于图像的表格表示,展示了表示方式和提示对 LLM 性能的作用。我们的研究为在表格相关任务中有效使用 LLM 提供了见解。
引用
@article{arxiv.2402.12424,
title = {Tables as Texts or Images: Evaluating the Table Reasoning Ability of LLMs and MLLMs},
author = {Naihao Deng and Zhenjie Sun and Ruiqi He and Aman Sikka and Yulong Chen and Lin Ma and Yue Zhang and Rada Mihalcea},
journal= {arXiv preprint arXiv:2402.12424},
year = {2024}
}
备注
Accepted to ACL 2024 Findings; Naihao and Zhenjie contributed equally to the project; Data available at: https://github.com/dnaihao/Tables-as-Texts-or-Images