Transformer、语境主义与多义性
计算与语言
2024-09-27 v2 人工智能
摘要
由 Vaswani 等人 (2017) 提出的 Transformer 架构是近期语言模型开发取得显著进展的核心，包括被广泛使用的聊天机器人如 Chat-GPT 和 Claude。在本文中，我主张我们可以从 Transformer 架构的工作方式中提取出一种关于语境与意义之间关系的理论。我将其称为 Transformer 理论，并论证它在两个相关的哲学辩论中具有新颖性：关于自然语言中语境敏感程度的语境主义辩论，以及关于多义性应如何在词义说明中被捕捉的多义性辩论。
关键词
引用
@article{arxiv.2404.09577,
title = {Transformers, Contextualism, and Polysemy},
author = {Jumbly Grindrod},
journal= {arXiv preprint arXiv:2404.09577},
year = {2024}
}