SALSA：语义感知隐空间自编码器
机器学习
2023-10-05 v1
摘要
在药物发现的深度学习中，化学数据常表示为简化分子线性输入规范（SMILES）序列，便于直接应用自然语言处理方法，其中之一为序列到序列自编码器。然而，我们观察到仅基于 SMILES 训练自编码器不足以学习具有语义意义的分子表征，其中语义由分子间的结构（图到图）相似性定义。我们通过实例表明，自编码器可能将结构相似的分子映射到相距遥远的编码，导致隐空间不连贯，无法体现分子间的结构相似性。为解决此缺陷，我们提出语义感知隐空间自编码器（SALSA），一种经对比任务修改的 transformer 自编码器，专门设计用于学习分子间的图到图相似性。形式上，对比目标是将结构相似的分子（通过单次图编辑分隔）映射到隐空间中的邻近编码。为此，我们生成了一个由结构相似分子集合组成的新数据集，并选用能够纳入完整正样本集合的监督对比损失。我们将 SALSA 与其消融对应模型比较，经验性地表明组合训练目标（重构与对比任务）带来了更高质量的隐空间，其更具 1）结构感知性，2）语义连续性，以及 3）属性感知性。
引用
@article{arxiv.2310.02744,
title = {SALSA: Semantically-Aware Latent Space Autoencoder},
author = {Kathryn E. Kirchoff and Travis Maxfield and Alexander Tropsha and Shawn M. Gomez},
journal= {arXiv preprint arXiv:2310.02744},
year = {2023}
}