中文

DANCE:面向联邦文本属性图的动态、可用、邻居门控压缩

机器学习 2026-01-26 v1

摘要

联邦图学习 (FGL) 使跨多个客户端在图数据上实现协作训练。随着大语言模型 (LLM) 的兴起,FGL 图中的文本属性正受到关注。文本属性联邦图学习 (TAG-FGL) 通过显式利用 LLM 处理和集成这些文本特征来改进 FGL。然而,当前的 TAG-FGL 方法面临三个主要挑战:\textbf{(1) 开销。} 处理长文本的 LLM 带来高 token 和计算成本。为使 TAG-FGL 实用,我们引入图压缩 (GC) 以减少计算负担,但这种选择也带来新问题。\textbf{(2) 次优。} 为减少 LLM 开销,我们将 GC 引入 TAG-FGL,通过压缩多跳文本/邻域至一个固定 LLM 代理的压缩核心。然而,这种一次性压缩往往不够客户端自适应,导致次优性能。\textbf{(3) 可解释性。} LLM-based 压缩进一步引入黑箱瓶颈:摘要缺乏对特定来源片段的忠实归因和清晰 grounding,使本地检查和审计困难。为解决上述问题,我们提出 \textbf{DANCE},一种新的 TAG-FGL 范式,集成 GC。为提高 \textbf{次优} 性能,DANCE 采用基于最新全局模型的轮次级、模型内循环压缩刷新。为增强 \textbf{可解释性},DANCE 通过存储可在本地检查的证据包来保留源头信息,这些证据包追踪预测与所选邻居及来源文本片段的关联。跨 8 个 TAG 数据集,DANCE 在 \textbf{8\%} 压缩比下将准确率提升 \textbf{2.33\%},token 数比基线少 \textbf{33.42\%}。

关键词

引用

@article{arxiv.2601.16519,
  title  = {DANCE: Dynamic, Available, Neighbor-gated Condensation for Federated Text-Attributed Graphs},
  author = {Zekai Chen and Haodong Lu and Xunkai Li and Henan Sun and Jia Li and Hongchao Qin and Rong-Hua Li and Guoren Wang},
  journal= {arXiv preprint arXiv:2601.16519},
  year   = {2026}
}