中文

基于潜在提示 Transformer 的分子设计

机器学习 2024-02-07 v2 生物大分子 机器学习

摘要

本文提出一种潜在提示 Transformer 模型,用于求解如分子设计等具有挑战性的优化问题,其目标是找到具有可由现有软件计算的目标化学或生物属性最优值的分子。我们提出的模型由三个组件构成。(1)一个潜在向量,其先验分布由高斯白噪声向量的 Unet 变换建模。(2)一个分子生成模型,以(1)中的潜在向量为条件生成分子的基于字符串的表示。我们采用因果 Transformer 模型,将(1)中的潜在向量作为提示。(3)一个属性预测模型,基于(1)中潜在向量的非线性回归预测分子的目标属性值。我们将提出的模型称为潜在提示 Transformer 模型。在现有分子及其属性值上对模型进行初始训练后,我们随后将模型分布逐渐移向支持目标属性期望值的区域,以用于分子设计。我们的实验表明,我们提出的模型在多个基准分子设计任务上取得了最先进的性能。

关键词

引用

@article{arxiv.2310.03253,
  title  = {Molecule Design by Latent Prompt Transformer},
  author = {Deqian Kong and Yuhao Huang and Jianwen Xie and Ying Nian Wu},
  journal= {arXiv preprint arXiv:2310.03253},
  year   = {2024}
}