面向分子的条件神经过程
机器学习
2023-02-24 v3 机器学习
摘要
神经过程(NPs)是用于迁移学习的模型,具有类似高斯过程(GPs)的特性。它们擅长对由同一输入空间上许多相关函数的少量观测组成的数据建模,并通过最小化变分目标进行训练,其计算代价远小于GPs所需的贝叶斯更新。迄今为止,大多数NPs研究聚焦于低维数据集,不能代表现实的迁移学习任务。药物发现是一个典型应用领域,其数据集由许多稀疏观测的化学性质或函数组成,但这些性质依赖于分子输入的共享特征或表示。本文将对条件神经过程(CNP)应用于DOCKSTRING——一个用于基准测试ML模型的对接打分数据集。相对于化学信息学中常见的监督学习基线以及一种基于预训练与微调神经网络回归器的替代迁移学习模型,CNPs在少样本学习任务中展现出有竞争力的性能。我们展示了一个贝叶斯优化实验以体现CNPs的概率性质,并讨论了该模型在不确定性量化方面的不足。
引用
@article{arxiv.2210.09211,
title = {Conditional Neural Processes for Molecules},
author = {Miguel Garcia-Ortegon and Andreas Bender and Sergio Bacallado},
journal= {arXiv preprint arXiv:2210.09211},
year = {2023}
}