集合上的深度消息传递
机器学习
2019-09-24 v1 机器学习
摘要
现代针对图输入数据学习的方法已表明,考虑集合中元素之间的关系是有益的。然而,大多数针对集合输入数据学习的方法仅采用 rudimentary 途径来利用集合内部关系。本文提出集合上的深度消息传递(DMPS),一种将关系学习引入集合学习的新方法。DMPS 不仅通过深度核学习将图上的学习与集合上的学习联系起来,还将集合上的消息传递与传统去噪模型中常用的扩散动力学相桥接。基于这些联系,我们开发了用于集合关系学习的两个新模块:集合去噪模块和集合残差模块。前者受一般图上消息传递与基于扩散的去噪模型之间联系的启发,后者则受众所周知的残差网络启发。除了通过实验学习真实的底层关系结构来展示我们模型的可解释性外,我们还通过在合成与真实世界数据集上取得与最先进方法相当或更好的结果,展示了方法的有效性。
引用
@article{arxiv.1909.09877,
title = {Deep Message Passing on Sets},
author = {Yifeng Shi and Junier Oliva and Marc Niethammer},
journal= {arXiv preprint arXiv:1909.09877},
year = {2019}
}
备注
11 pages, 8 figures