深度学习模型的表征地位

本文旨在澄清深度学习模型（DLMs）的表征地位。虽然通常被称为“表征”，但由于对表征的功能性概念与关系性概念的混淆，其具体含义是模糊的。本文论证道，尽管 DLMs 在关系意义上表征其目标，但一般而言，我们并无充分理由相信 DLMs 对其目标编码了局部语义可分解的表征。也就是说，这些模型所具有的表征能力主要是全局性的，而非可分解为稳定的局部子表征。这一结果对可解释人工智能（XAI）具有直接启示，并将注意力导向探索深度学习表征的全局关系性质及其与更一般模型的关系，以理解其在未来科学探究中的潜在作用。