TinyGraphEstimator：适用于图结构推断的轻量级语言模型
机器学习
2025-12-16 v4
摘要
图提供了表示复杂关系系统的通用框架，推断其结构属性是图分析与推理中的核心挑战。虽然大型语言模型最近显示出执行符号与数值推理的潜力，但较小、资源高效模型在此方面的潜力仍基本未被探索。本文考察了紧凑基于变换器的语言模型是否能直接从图表示中推断图论参数。为实现系统评估，我们引入TinyGraphEstimator数据集——一个来自多种随机图模型生成的、平衡且包含详细结构元数据的连通图集合。我们评估了几个小型开源模型在预测关键图参数（如密度、聚类系数和色度数）方面的能力。此外，我们采用低秩适应(LoRA)技术进行轻量级微调，实现了所有评估指标上的一致性改进。结果表明，小型语言模型具备处理图结构数据上的非平凡推理能力，能够通过高效参数调优为结构推断任务有效地进行适应。
引用
@article{arxiv.2510.08808,
title = {TinyGraphEstimator: Adapting Lightweight Language Models for Graph Structure Inference},
author = {Michal Podstawski},
journal= {arXiv preprint arXiv:2510.08808},
year = {2025}
}