稀疏张量的张量卷积网络:用于高阶相互作用预测
机器学习
2025-03-18 v1
摘要
许多真实世界的数据(如推荐数据和时序图)可表示为不完整稀疏张量,其中大多数条目未被观察。对于此类稀疏张量,识别最可能发生于未观察条目之间的 top-k 高阶相互作用至关重要。张量分解(TF)在各种基于张量的应用中获得了显著关注,作为找到这些 top-k 潜在相互作用的有效方法。然而,现有的 TF 方法主要致力于有效地融合实体的隐向量,这限制了其表达能力。由于稀疏张量中大多数实体只有少数相互作用,其隐层表示往往受到不足的训练。本文提出了 TCN(Tensor Convolutional Network),一种精确且兼容的张量卷积网络,可无缝集成到现有的 TF 方法中,用于预测高阶相互作用。我们设计了一个高效的编码器来生成实体的表达隐向量。为此,我们提出了(1)从稀疏张量构建图结构,以及(2)开发一种关系感知编码器 TCN,通过利用图结构学习实体的隐层表示。由于 TCN 可与传统 TF 方法相互补充,我们无缝地将 TCN 集成到现有的 TF 方法中,增强了预测 top-k 相互作用的性能。大量实验表明,集成 TCN 的 TF 方法在对抗 TF 方法和超边预测方法时表现优于竞争方法。此外,TCN 与各种 TF 方法和图神经网络(GNN)广泛兼容,成为一种通用解决方案。
引用
@article{arxiv.2503.11786,
title = {Tensor Convolutional Network for Higher-Order Interaction Prediction in Sparse Tensors},
author = {Jun-Gi Jang and Jingrui He and Andrew Margenot and Hanghang Tong},
journal= {arXiv preprint arXiv:2503.11786},
year = {2025}
}
备注
11 pages