超越黑箱：面向可解释与对齐 AI 的认知架构
人工智能
2025-12-09 v2 计算机科学中的逻辑
摘要
当前 AI 范式作为“体验的建筑师”，面临可解释性和价值对齐的根本性挑战。本文引入了“Weight-Calculatism”，一种基于首要原则的新型认知架构，展示了其作为通用人工智能（AGI）可行路径的潜力。该架构将认知分解为不可再分割的逻辑原子和两种基本操作：指向与比较。决策通过可解释的 Weight-Computation 模型（Weight = Benefit * Probability）形式化，其中所有价值都可追溯到可审计的初始权重。这一原子分解实现了根本性的可解释性、对新情境的内在普适性，以及可追溯的价值对齐。我们详细阐述了其基于图算法的计算引擎实现，以及全球工作区工作流程，支持初步代码实现和情景验证。结果表明，该架构在前所未有的情境中实现了透明、类人推理和稳健学习，为构建可信赖且对齐的 AGI 奠定了实践和理论基础。
引用
@article{arxiv.2512.03072,
title = {Beyond the Black Box: A Cognitive Architecture for Explainable and Aligned AI},
author = {Hu Keyi},
journal= {arXiv preprint arXiv:2512.03072},
year = {2025}
}