中文

脑发育决定神经架构搜索的能量约束:关于优化策略的跨学科洞见

神经元与认知 2023-10-06 v1 定量方法

摘要

当今的人工神经架构搜索(NAS)策略本质上是预测误差优化的。这对于一般的 AI 功能亦成立。从发展神经科学视角,我提出证据说明代谢优化而非预测误差优化的神经架构搜索(NAS)的核心作用。支持性证据来自对人脑胶质-神经组织的最新洞见,以及为这一优化策略的功能表达提供数学基础的动态协调理论。这与在 AI 中(尤其是 AGI 中)设计新颖的 NAS 策略相关。其对来自深度神经网络的因果推理亦产生额外启示。总之,来自发展神经科学的洞见为 NAS 及 AI 建模中的基础性假设提供了新视角。

关键词

引用

@article{arxiv.2310.03042,
  title  = {Brain development dictates energy constraints on neural architecture search: cross-disciplinary insights on optimization strategies},
  author = {Martin G. Frasch},
  journal= {arXiv preprint arXiv:2310.03042},
  year   = {2023}
}