FinchGPT：一种基于 Transformer 的鸟鸣分析语言模型

源于层次结构的词元间长程依赖是人类语言的一个标志性特征。然而，类似依赖是否存在于非人类动物的序列发声之中，仍是一个有待研究的课题。Transformer 架构以其对词元间长程依赖建模的能力而闻名，为研究这一现象提供了有力工具。在本研究中，我们采用 Transformer 架构分析孟加拉雀（Lonchura striata domestica）的鸣唱，其特点是音节序列高度可变且复杂。为此，我们开发了 FinchGPT，一个在文本化鸟鸣语料库上训练的基于 Transformer 的模型，其性能优于该领域的其他架构模型。注意力权重分析表明，FinchGPT 有效捕捉了音节序列内的长程依赖。此外，逆向工程方法展示了计算和生物操作对其性能的影响：限制 FinchGPT 的注意力跨度以及通过消融特定脑核团破坏鸟鸣句法，均显著影响了模型的输出。我们的研究凸显了大型语言模型（LLMs）在解读动物发声复杂性方面的变革潜力，为探索非人类通信系统的结构特性提供了一个新颖框架，同时揭示了生物大脑与人工神经网络之间的计算差异。