GaLoRA：用于节点分类的参数高效图感知大型语言模型
机器学习
2026-03-12 v1
摘要
大型语言模型 (LLM) 的迅速崛起及其捕捉语义关系的能力，使其被广泛应用于各种领域。文本属性图 (TAG) 是一个显著的例子，其中 LLM 可以与图神经网络结合以提高节点分类的性能。在 TAG 中，每个节点都与文本内容相关联，这种图常见于社交网络、引文图、推荐系统等多个领域。从 TAG 中有效学习将能够更好地表示图的结 构和文本表示，并改善相关领域的决策制定。我们提出了 GaLoRA，一个将结构信息整合到 LLM 中的参数高效框架。GaLoRA 在 TAG 的节点分类任务上展示了具有竞争力的性能，仅需完整 LLM 微调所需参数数量的 0.24% 即可达到与最先进模型相当的水平。我们使用三个真实世界数据集进行实验，以展示 GaLoRA 在 TAG 上结合结构和语义信息的有效性。
引用
@article{arxiv.2603.10298,
title = {GaLoRA: Parameter-Efficient Graph-Aware LLMs for Node Classification},
author = {Mayur Choudhary and Saptarshi Sengupta and Katerina Potika},
journal= {arXiv preprint arXiv:2603.10298},
year = {2026}
}
备注
10 pages, 2 figures, 11 tables, 39th Conference on Neural Information Processing Systems (NeurIPS 2025) Workshop