David Blackwell博士的定理及其对人工智能的贡献

David Blackwell博士是一位一流的数学家和统计学家，其对统计理论、博弈论和决策论的贡献先于许多定义现代人工智能的算法突破。本综述审视了他的三个最具影响力的理论结果——Rao-Blackwell定理、Blackwell可达性定理和Blackwell信息性定理（实验比较），并追溯了它们对当代人工智能和机器学习的直接影响。我们表明，这些主要在1940年代和1950年代发展出的结果，在马尔可夫链蒙特卡洛推理、自主移动机器人导航（SLAM）、生成模型训练、无遗憾在线学习、基于人类反馈的强化学习（RLHF）、大语言模型对齐和信息设计等现代子领域中仍然具有技术上的生命力。NVIDIA在2024年决定将其旗舰GPU架构命名为Blackwell，有力地证明了他持久的关联性。我们还记录了一个新兴前沿：在LLM的RLHF流水线中显式的Rao-Blackwell化方差缩减，该方法近期被提出但尚未成为标准实践。综上，Blackwell定理形成了一个统一框架，解决信息压缩、不确定性下的序贯决策以及信息源的比较——这些正是现代AI的核心问题。