用于超图推理的稀疏局部网络
机器学习
2023-03-10 v1 人工智能
机器学习
摘要
从输入事实推理实体间关系（例如 Ari 是否是 Charlie 的祖父母）通常需要显式考虑查询中未提及的其他实体（例如 Charlie 的父母）。本文提出一种在大型真实领域中学解决此类问题的方法，使用稀疏局部超图神经网络（SpaLoc）。SpaLoc 受传统基于逻辑的推理的两点观察启发：关系推断通常是局部的（即仅涉及少量个体），且关系通常是稀疏的（即仅对领域中很小比例的元组成立）。我们利用这些性质，通过（1）使用稀疏张量表示超图神经网络，（2）在训练期间应用稀疏化损失以鼓励稀疏表示，（3）在训练期间基于新颖的基于信息充分性的采样过程进行子采样，从而在非常大领域中实现高效学习与推理。SpaLoc 在多个真实世界大规模知识图推理基准上达到最先进性能，并且是首个将超图神经网络应用于节点数超过 10k 的真实世界知识图的框架。
引用
@article{arxiv.2303.05496,
title = {Sparse and Local Networks for Hypergraph Reasoning},
author = {Guangxuan Xiao and Leslie Pack Kaelbling and Jiajun Wu and Jiayuan Mao},
journal= {arXiv preprint arXiv:2303.05496},
year = {2023}
}
备注
Learning on Graphs Conference (LoG) 2022. Project page: https://spaloc.csail.mit.edu