分子与自然语言之间的翻译

我们提出 $\textbf{MolT5}$ ——一种在大量无标注自然语言文本与分子字符串上预训练模型的自我监督学习框架。$\textbf{MolT5}$ 使得传统视觉-语言任务的崭新、有用且具挑战性的类比成为可能，例如分子描述生成（molecule captioning）与基于文本的从头分子生成（text-based de novo molecule generation）（统称：分子与语言之间的翻译），我们首次对此进行了探索。由于 $\textbf{MolT5}$ 在单模态数据上预训练模型，它有助于克服化学领域数据稀缺的短板。此外，我们考量了若干指标，包括一种新的基于跨模态嵌入的指标，以评估分子描述生成与基于文本的分子的生成任务。我们的结果表明，基于 $\textbf{MolT5}$ 的模型能够生成在诸多情况下高质量的产出，包括分子与描述文本。