关于符号AI与生成式AI中确定性与范围基础性权衡的猜想

本文提出一种猜想，用于形式化地表述人工智能（AI）系统中可证明正确性与广泛数据映射能力之间的根本性权衡。当AI系统被设计为具有可演绗保证的系统（即对其输出零错误性质的可演绗确定性）时，其操作领域必须受到狭窄的限制并预先结构化——正如经典符号AI所示。相反，能够将高维数据输入并产生丰富信息输出的系统（如当代生成式模型）必然放弃零错误性能的可能性，导致不可消除的错误或误分类风险。通过将此先前隐含的权衡显式化并便于严格验证，猜想显著重塑了AI的工程目标与哲学期望。文章回顾了此种张力的历史动机，提出信息论形式的猜想，并将其置于认识论、形式验证及技术哲学的更广泛论战中。随后分析其影响与后果，借助不确定性、谨慎认识风险及道德责任等概念。讨论阐明了若该猜想成立，将如何帮助重塑评估标准、治理框架及混合系统设计。结论强调，对于可信AI的未来，最终必须证明或驳斥该不等式。