中文

IGDA:基于大语言模型智能体的交互式图发现

机器学习 2025-04-15 v2 人工智能

摘要

大语言模型 (LLMs\textbf{LLMs}) 已成为一种强大的发现方法。LLM 不利用数值数据,而是利用相关的变量 语义元数据\textit{语义元数据} 来预测变量间的关系。同时,当给定目标 ff 和一系列试验时,LLM 展现出作为黑盒优化器的卓越能力。我们通过将 LLM 应用于 交互式图发现\textit{交互式图发现} 任务,研究了 LLM 在这两种能力交汇处的表现:给定一个捕捉变量关系的真实图 GG^* 以及在 RR 轮中进行 II 次边实验的预算,最小化在第 RR 轮结束时预测图 G^R\hat{G}_RGG^* 之间的距离。为解决该任务,我们提出了 IGDA\textbf{IGDA},一种基于 LLM 的流水线,包含两个关键组件:1) 一种由 LLM 不确定性驱动的边实验选择方法;2) 一种利用实验二元反馈的局部图更新策略,以改进对未选定相邻边的预测。在八个不同的真实世界图上的实验表明,我们的方法通常优于所有基线,包括一种用于交互式图发现的最先进数值方法。此外,我们进行了一系列严格的消融实验,剖析了每个流水线组件的影响。最后,为了评估记忆的影响,我们将交互式图发现策略应用于一个关于蛋白质转录因子的复杂新因果图(截至 2024 年 7 月),在不可能存在记忆的场景中发现了优异的性能。总体而言,我们的结果表明 IGDA 是一种强大的图发现方法,是对现有数值驱动方法的补充。

关键词

引用

@article{arxiv.2502.17189,
  title  = {IGDA: Interactive Graph Discovery through Large Language Model Agents},
  author = {Alex Havrilla and David Alvarez-Melis and Nicolo Fusi},
  journal= {arXiv preprint arXiv:2502.17189},
  year   = {2025}
}