神经符号博士,或:我如何学会停止担忧并接受统计学
人工智能
2023-02-17 v8 机器学习
摘要
符号 AI 社区正日益尝试在神经符号架构中拥抱机器学习,却仍因文化壁垒而挣扎。为打破壁垒,这篇颇具主张的个人备忘录试图从局外人视角解释并纠正统计学、机器学习与深度学习中的惯例。它提供了一个逐步协议,用于设计满足被符号 AI 社区严肃对待所需最低理论保证的机器学习系统,即讨论“在何种条件下我们能停止担忧并接受统计机器学习”。与多数为学生撰写、试图专攻 Stat/ML/DL 且愿意接受行话的教科书不同,本备忘录为听闻诸多喧嚣但仍不确定且怀疑的经验丰富符号研究者而写。当前 Stat/ML/DL 信息过于分散或嘈杂以致难以投入。本备忘录优先紧凑性、对旧论文(许多在 20 世纪初)的引用,以及与符号范式共鸣的概念,以节省时间。它优先一般数学建模,不讨论任何特定函数逼近器,如神经网络(NNs)、SVM、决策树等。最后,它开放更正。可将此备忘录视为类似一篇以 Arxiv 论文形式出现的博客文章。
引用
@article{arxiv.2209.04049,
title = {Dr. Neurosymbolic, or: How I Learned to Stop Worrying and Accept Statistics},
author = {Masataro Asai},
journal= {arXiv preprint arXiv:2209.04049},
year = {2023}
}
备注
12 pages of main contents, 29 pages in total. It could also serve as an accompanying material for Latplan paper. (arXiv:2107.00110) v2: rewrote the general ELBO derivation without Prolog. v3: significantly extended the Bayesian reasoning section in the appendix, with several proofs for conjugate priors. v4+: errata fix