通过关系条件神经过程实现实用等变性质
机器学习
2023-11-07 v2 机器学习
摘要
条件神经过程（CNPs）是一类元学习模型，因将摊销推断的运行时效率与可靠的的不确定性量化相结合而广受欢迎。许多相关的机器学习任务，例如时空建模、贝叶斯优化和连续控制，固有地包含等变性质——例如平移等变——模型可利用其实现最佳性能。然而，先前将等变性质纳入 CNPs 的尝试在超过两个输入维度时无法有效扩展。在本工作中，我们提出关系条件神经过程（RCNPs），一种将等变性质纳入任意神经过程模型的有效方法。我们提出的方法将等变神经过程的应用范围和影响扩展到了更高维度。我们在大量自然包含等变性质的任任务上实证展示了 RCNPs 的竞争性性能。
引用
@article{arxiv.2306.10915,
title = {Practical Equivariances via Relational Conditional Neural Processes},
author = {Daolang Huang and Manuel Haussmann and Ulpu Remes and ST John and Grégoire Clarté and Kevin Sebastian Luck and Samuel Kaski and Luigi Acerbi},
journal= {arXiv preprint arXiv:2306.10915},
year = {2023}
}
备注
38 pages, 8 figures. Accepted at the 37th Conference on Neural Information Processing Systems (NeurIPS 2023)