Transformer 模型能像人类一样闻气味吗？

人类大脑将来自环境的刺激编码为形成世界感官感知的表征。尽管在理解视觉和听觉感知方面取得了近期进展，但由于缺乏大规模标注有人类嗅觉感知标签的数据集，嗅觉感知仍然是机器学习领域一个未被充分探索的主题。在这项工作中，我们提出问题：预训练的化学结构 transformer 模型是否编码了与人类嗅觉感知对齐的表征，即 transformer 模型能像人类一样闻气味吗？我们证明，在通用化学结构上预训练的 transformer 模型所编码的表征与人类嗅觉感知高度对齐。我们使用多个数据集和不同类型的感知表征来表明，transformer 模型编码的表征能够预测：(i) 专家提供的与气味物质相关的标签；(ii) 人类参与者对预定义描述符提供的连续评分；以及 (iii) 人类参与者提供的气味物质之间的相似性评分。最后，我们评估这种对齐程度与已知对嗅觉解码相关的嗅觉物质的物理化学特征之间的关联。