论意义的计算、语言模型与不可理解之恐怖

我们将意义的基础理论与人工智能通用（AGI）的数学形式体系相整合，以提供关于意义、交流与符号涌现的综合性机制解释。这一综合对 AGI 及关于语言本质的更广泛争论都具有重要意义，因为它统一了语用学、逻辑真值条件语义学、皮尔士符号学以及可计算的行为认知模型，从而解决了传统上回避机制解释的现象。通过考察机器能够生成有意义话语或理解人类意义的条件，我们确定当前一代语言模型既不具备与人类相同的意义理解，也不意图任何我们可能归诸其回应的意义。为此，我们提议模拟人类情感并优化模型以构建弱表征。我们的发现阐明了意义与智能之间的关系，以及我们如何能够构建理解和意图意义的机器。