用于低资源分子属性预测的图神经网络初始化元学习
机器学习
2020-07-21 v2 化学物理
机器学习
摘要
构建计算机模拟模型以预测化学性质和活性是药物发现中的关键步骤。然而，有限的标记数据常常阻碍深度学习在此场景中的应用。同时，元学习的进展已在少样本学习基准上实现了最先进的性能，这自然引出一个问题：元学习能否在低资源药物发现项目中改善深度学习性能？在这项工作中，我们评估了由模型无关元学习（MAML）算法——及其变体 FO-MAML 和 ANIL——学习的图神经网络初始化对化学性质和活性任务的迁移能力。使用 ChEMBL20 数据集来模拟低资源设置，我们的基准表明，元初始化在 20 个分布内任务中的 16 个以及所有分布外任务上表现与多任务预训练基线相当或更好，分别提供平均 11.2% 和 26.9% 的 AUPRC 提升。最后，我们观察到元初始化在包含 个实例的微调集上始终产生性能最佳的模型。
引用
@article{arxiv.2003.05996,
title = {Meta-Learning GNN Initializations for Low-Resource Molecular Property Prediction},
author = {Cuong Q. Nguyen and Constantine Kreatsoulas and Kim M. Branson},
journal= {arXiv preprint arXiv:2003.05996},
year = {2020}
}
备注
ICML 2020 Workshop on Graph Representation Learning and Beyond (GRL+)