确定性视界:不可避免结果作为可信赖 AI 系统的设计规范
人工智能
2026-05-25 v1 计算复杂性
计算与语言
机器学习
摘要
大型语言模型如今能够编写软件、起草法律文件和生成临床记录,然而从图灵和阿罗Arrow到没有免费午餐定理, Fundamental limits 塑造了计算能做到什么程度。本论文将此类不可避免结果从趣味转化为设计规则。其杰出结果证明了由体系结构alone 设置的准确性上限:在关键推理深度之后,无论调整器秩、样本量或损失函数,都无法提升准确性。该确定性视界可在部署前通过层数和嵌入宽度进行计算,测量值在十二种变换器架构之间为十九至三十一,在最佳长度轨迹上进行微调可恢复不到四个百分点。其机制是残差流的容量不变性,信息论转换结果表明,在视界之后准确性呈超指数衰减。一个无条件的电路复杂度下界用于模组幂运算,对常数深度素数模电路。相同论证跨子领域:偏好学习在任何误指定型模型下在样本复杂度上出现离散跳变;多阶段检索管道需要至少与阶段数相同的独立指标;标准诚实拍卖对带有提示依赖性价值评估者失败;零知识神经推理验证支付的开销为每非线性激活110至190倍。这些构成了十六个规范的目录,每个规范都包含可计算边界、量化的违规成本和构造性设计规则:证明了两个组合,一个配对是诚实的阻碍,四个保持开放。不可避免-规范方法论被提出用于可信赖 AI 所需的生成性研究计划。AI 的每个基本限制也是设计规则。
引用
@article{arxiv.2605.23024,
title = {The Deterministic Horizon: Impossibility Results as Design Specifications for Trustworthy AI Systems},
author = {Dongxin Guo},
journal= {arXiv preprint arXiv:2605.23024},
year = {2026}
}
备注
PhD thesis, Department of Computer Science, The University of Hong Kong, 2026. 271 pages, 18 figures, 15 tables, 5 algorithms