神经图揭示器
机器学习
2024-10-23 v3 机器学习
摘要
稀疏图恢复方法在数据符合其假设时表现良好,但它们通常并非为下游概率查询而设计,这限制了其仅能用于识别输入变量间的连接。另一方面,概率图模型(PGM)假设变量间存在底层基图并学习其上的分布。PGM 的设计选择经过审慎考量,以使推断与采样算法高效。这带来了特定限制并常需简化假设。本工作中,我们提出神经图揭示器(NGR),试图将稀疏图恢复方法与 PGM 高效融合为单一流程。问题设定为:输入数据 X 含 D 个特征与 M 个样本,任务为恢复展示特征间连接的稀疏图并联合学习其上的概率分布。NGR 将神经网络视为“玻璃盒”,或更确切地说,视为多任务学习框架。我们引入“图约束路径范数”,NGR 借此学习以无向稀疏图形式捕捉特征间复杂非线性函数依赖的图模型。此外,NGR 可处理图像、文本、类别数据、嵌入等多模态输入,而这是现有方法难以直接纳入的。我们在来自高斯图模型及美国疾病控制与预防中心的多模态婴儿死亡率数据集上展示了稀疏图恢复与概率推断的实验结果。
引用
@article{arxiv.2302.13582,
title = {Neural Graph Revealers},
author = {Harsh Shrivastava and Urszula Chajewska},
journal= {arXiv preprint arXiv:2302.13582},
year = {2024}
}