中文

现代人工智能与深度学习的注释历史

神经与进化计算 2025-12-30 v3

摘要

机器学习(ML)是关于信用分配的科学。它试图在观测中寻找模式,以解释和预测事件与行动的后果。这进而有助于改善未来的性能。Minsky 所谓的“基本信用分配问题”(1963)出现在所有科学中,包括物理学(为什么世界是现在这样?)和历史学(哪些人/思想/行动塑造了社会与文明?)。在此,我聚焦于机器学习本身的历史。现代人工智能(AI)由人工神经网络和深度学习主导,这两者在概念上比传统上被称为 AI 的领域(例如专家系统和逻辑编程)更接近古老的控制论领域。现代 AI 与 ML 的历史必须强调浅层 AI 教科书范围之外的突破。具体而言,它必须涵盖当今神经网络的基础数学,例如链式法则(1676)、最初的神经网络(约 1800 年)、第一个实用的 AI(1914 年)、AI 理论及其局限性(1931-34 年),以及第一批可工作的深度学习算法(1965 年-)。从 2025 年的视角,我提供了神经网络、机器学习、深度学习、人工智能、计算机科学以及一般数学历史上最重要事件的时间线,并肯定了奠定该领域基础的个人。文本包含大量指向相关概述站点的超链接。在延迟十年之后,它补充了我 2015 年获奖的深度学习综述,该综述提供了数百篇额外的参考文献。最后,我将把这些事物置于更广阔的历史背景中,时间跨度从大爆炸直到宇宙比现在古老许多倍之时。

关键词

引用

@article{arxiv.2212.11279,
  title  = {Annotated History of Modern AI and Deep Learning},
  author = {Juergen Schmidhuber},
  journal= {arXiv preprint arXiv:2212.11279},
  year   = {2025}
}

备注

97 pages, over 600 references. 2022 arXiv admin note: substantial text overlap with arXiv:2005.05744