中文

Tyger:面向分子性质预测的任务类型通用主动学习框架

机器学习 2022-05-24 v1 定量方法

摘要

如何准确预测分子的性质是人工智能驱动药物发现中的一个基本问题,通常需要进行大量标注以训练深度学习模型。然而,标注分子的成本相当高,因为这需要专家进行实验室实验。为降低标注成本,深度主动学习(Active Learning, AL)方法被开发出来,仅选择最具代表性和信息量的数据进行标注。然而,现有最优的深度AL方法大多针对单一类型的学习任务(例如单标签分类)而开发,因此可能在涉及多种任务类型的分子性质预测中表现不佳。本文提出一种任务类型通用主动学习框架(称为Tyger),能够以统一方式处理不同类型的学习任务。其关键在于学习一个具有化学意义的嵌入空间,并完全基于嵌入进行主动选择,而非像现有工作那样依赖特定任务类型的启发式方法(例如按类别的预测概率)。具体而言,为学习嵌入空间,我们实例化了一个查询模块,该模块学习将分子图翻译为相应的SMILES字符串。此外,为确保从该空间选择的样本既具代表性又具信息量,我们提出通过两个学习目标来塑造嵌入空间,一个基于领域知识,另一个利用来自任务学习器(即执行当前学习任务的模型)的反馈。我们在不同任务类型的基准数据集上进行了大量实验。实验结果表明,Tyger在分子性质预测上持续取得高AL性能,大幅优于基线方法。我们还进行了消融实验以验证Tyger中各组件的有效性。

关键词

引用

@article{arxiv.2205.11279,
  title  = {Tyger: Task-Type-Generic Active Learning for Molecular Property Prediction},
  author = {Kuangqi Zhou and Kaixin Wang and Jiashi Feng and Jian Tang and Tingyang Xu and Xinchao Wang},
  journal= {arXiv preprint arXiv:2205.11279},
  year   = {2022}
}