整合式生物模拟、神经心理学与人工智能安全

我们描述了一个受生物学启发的研究议程，其包含旨在推进人工智能与人工智能安全的并行轨道。自下而上的部分包括构建一系列具有生物物理真实性的简单生物模拟，如秀丽隐杆线虫（Caenorhabditis elegans）、黑腹果蝇（Drosophila melanogaster）和斑马鱼（Danio rerio），以作为研究人工智能算法与系统架构的平台。自上而下的部分包括一种将人工智能目标结构根植于广义神经心理学的价值对齐方法。我们相信，对这些轨道的并行追求将为受具有感觉运动整合的具身生物启发而产生的价值对齐人工智能系统的开发提供指导。一组重要的附带益处是，我们在此描述的研究轨迹根植于现有研究社群与资助体系中长期存在的学术传统。此外，这些研究计划与生物和心理科学中重要的当代主题（如数据/模型整合与可重复性）相重叠。