意义之机

人工智能的一个目标是为自然语言表达学习有意义的表征，但这究竟意味着什么并不总是清晰的。新的语言行为以计算机、增强的人类以及各种集成和通信形式呈现出来。但为了衡量和理解这些系统生成的行为，我们必须澄清用于讨论这些行为的语言。计算模型常常被误认为是它们试图建模的现象，而浅层隐喻被用作（或为）在许多与自然语言相关的任务中计算技术成功的依据；因此暗示它们在人类水平的机器智能方面的进展，却从未澄清这究竟意味着什么。本文讨论了"意义之机"的 specification 挑战，即能够从自然语言中获取有意义语义的机器，以实现其目标。我们在计算环境中表征"意义"，同时强调在研究意义之机的行为时需要摆脱以人类为中心的视角。对 AI 风险和伦理的紧迫需求需要对其能力进行proper 测量，而这种测量不能在使用模糊语言的情况下进行建设性地研究和解释。我们提出了一种"意义"的观点，以促进围绕神经语言模型等方法的讨论，并帮助拓宽促进人机对话技术的研究视角。