大语言模型与图神经网络融合用于文本-数值图推理
机器学习
2025-01-29 v1 人工智能
摘要
在现实世界的科学发现中，人类往往利用 accumulated prior knowledge，通过 imagination 从大规模噪声数据分析结果中挑选出最具前景的假设。本研究引入一种新型图结构——文本-数值图（text-numeric graph, TNG），其图实体和关联既包含文本属性信息，又包含数值信息。TNG 是实现图推理进行新科学发现理想的数据结构模型，因为它将人类可理解的文本注释或先验知识与代表图实体或关联在不同样本中观察或激活水平的数值相结合。文本信息与数值共同决定了图实体和关联在图推理中用于新科学知识发现的重要性。我们进一步提出将大语言模型（LLM）与图神经网络（GNN）集成用于分析 TNG，实现图理解与推理。为演示实用性，我们生成了文本-组学（text-omic）信号图（TOSG），作为 TNG 的一种类型，其中所有图具有相同的实体、关联和注释，但具有样本特定的实体数值（组学）值，这些值基于不同疾病的单细胞 RNA 测序（scRNAseq）数据集生成。我们提出的联合 LLM-GNN 模型用于关键实体挖掘和信号通路挖掘。评估结果表明，LLM-GNN 和 TNG 模型显著提升了分类准确率和网络推断。在结论中，TNG 和联合 LLM-GNN 模型是科学发现的重要方法。
引用
@article{arxiv.2501.16361,
title = {Large Language Models Meet Graph Neural Networks for Text-Numeric Graph Reasoning},
author = {Haoran Song and Jiarui Feng and Guangfu Li and Michael Province and Philip Payne and Yixin Chen and Fuhai Li},
journal= {arXiv preprint arXiv:2501.16361},
year = {2025}
}
备注
29 pages, 6 figures