神经符号价值启发式AI（为什么、是什么和怎么做）

人工智能（AI）系统的快速发展，得益于大语言模型（LLM）的出现，使其在各个行业中被广泛用于提供人类辅助。这一趋势引发了重要的讨论，其核心在于基于LLM的AI系统作为人类社会的一部分在人类中运行并共享人类价值观的需求日益增长，特别是当这些系统被部署在高风险环境中（如医疗保健、自动驾驶等）。为此，神经符号AI系统极具吸引力，因为它们有可能通过利用共享价值观的显式表示，为实现基于价值观的决策提供易于理解和解释的接口。在本文中，我们对Kahneman的系统一/系统二框架进行了实质性扩展，并提出了一个名为价值启发式AI（VAI）的神经符号计算框架。该框架概述了VAI系统稳健且实用化实现所必需的关键组件，旨在表示和整合人类价值观的各个维度。最后，我们进一步提供了对该方向当前进展的见解，并概述了该领域潜在的未来发展方向。