图神经网络中的算法推理
机器学习
2024-02-22 v1
摘要
开发具有高级推理能力的人工智能系统是一个持续且长期的研究问题。传统上,解决这一挑战的主要策略是采用符号方法,其中知识通过符号和显式编程的规则来表示。然而,随着机器学习的出现,范式已转向能够自主从数据中学习且需要最少人类指导的系统。鉴于这种转变,近年来人们对赋予神经网络推理能力越来越感兴趣并付出了大量努力,以弥合数据驱动学习与逻辑推理之间的差距。在此背景下,神经算法推理(NAR)作为一个有前景的研究领域脱颖而出,旨在将算法的结构化、基于规则的推理与神经网络的自适应学习能力相结合,通常通过任务驱动神经模型来模仿经典算法。在本文中,我们为该研究领域提供了理论和实践贡献。我们探索了神经网络与热带代数之间的联系,推导出与算法执行相一致的强大架构。此外,我们讨论并展示了此类神经推理器学习和操纵复杂算法与组合优化概念(如强对偶原理)的能力。最后,在我们的实证工作中,我们验证了 NAR 网络在不同实际场景中的现实效用。这包括规划问题、大规模边分类任务以及学习 NP-hard 组合问题的多项式时间近似算法等多种任务。通过这一探索,我们旨在展示在机器学习模型中集成算法推理的潜力。
引用
@article{arxiv.2402.13744,
title = {Reasoning Algorithmically in Graph Neural Networks},
author = {Danilo Numeroso},
journal= {arXiv preprint arXiv:2402.13744},
year = {2024}
}
备注
PhD Thesis