中文

TabGLM:面向多模态一致性最小化的表格图语言模型

机器人学 2025-02-27 v1 系统与控制 系统与控制

摘要

处理表格数据集中的异构特征对深度学习模型构成重大挑战。尽管注意力-based 架构和自监督学习取得显著成功,但其在线性和基于树的方法上应用仍不够有效。尽管已实现若干突破,将表格转换为图像、语言或图等单模态转换的模型,但在特征异构性强的情况下常表现不佳。为填补这一空白,我们提出了 TabGLM (Tabular Graph Language Model),一种新型多模态架构,用于建模表格中的结构和语义信息。TabGLM 将表格的每一行转换为完全连接图和序列化文本,分别使用图神经网络 (GNN) 和文本编码器进行编码。通过通过联合、多模态的自监督学习目标对齐这些表示,TabGLM 利用两者的互补信息,从而增强特征学习。TabGLM 灵活的图-文本管道显著降低了参数数量,相较于现有的深度学习方法在处理异构数据集方面更为高效。跨 25 个基准数据集的评估显示,TabGLM 在准确率上实现了显著提升,平均 AUC-ROC 提升最高可达 5.56%。

关键词

引用

@article{arxiv.2502.18846,
  title  = {RL-OGM-Parking: Lidar OGM-Based Hybrid Reinforcement Learning Planner for Autonomous Parking},
  author = {Zhitao Wang and Zhe Chen and Mingyang Jiang and Tong Qin and Ming Yang},
  journal= {arXiv preprint arXiv:2502.18846},
  year   = {2025}
}