利用神经过程推理结构的方法
机器学习
2023-06-28 v1 机器学习
摘要
神经过程（NPs）因其基于上下文集进行快速适应的能力而颇具吸引力。该上下文集由潜变量编码，通常假设其服从简单分布。然而，在真实场景中，上下文集可能来自具有多模态、重尾等更丰富分布。本工作中，我们提供了一个框架，允许NPs的潜变量被由图模型定义的丰富先验所赋予。这些分布假设直接转化为针对上下文集的适当聚合策略。此外，我们描述了一种消息传递过程，仍允许使用随机梯度进行端到端优化。我们通过采用混合分布与学生t分布假设来展示框架的通用性，其在函数建模与测试时鲁棒性方面均带来提升。
引用
@article{arxiv.2306.15169,
title = {Exploiting Inferential Structure in Neural Processes},
author = {Dharmesh Tailor and Mohammad Emtiyaz Khan and Eric Nalisnick},
journal= {arXiv preprint arXiv:2306.15169},
year = {2023}
}
备注
Uncertainty in Artificial Intelligence (UAI) 2023