隐蔽想象：AI 设想的批判性概述

关于人工智能 (AI) 能力与影响的想象论影响计算机科学研究，推动 AI 行业实践，滋生对人工通用智能、人工超级智能和技术奇点问题的学术研究，以及激化全球政治辩论。它主要关乎关于实现人工通用智能、人工超级智能和技术奇点可能性、好处与风险的预测。它渗透于 technophilic 哲学和社会运动之中，燃烧企业家和评论家的言辞，成为媒体、流行文化和艺术的激情源泉。然而，speculative AI 不仅仅是一件叙事性的事。深植于模糊不清，充满无依据的断言、操纵性的主张和极端的未来情景，它常常具有广泛的实际后果。本文提供了 AI 想象的批判性概述。在三个核心章节中，它追踪了科幻、宗教信仰、知识骄傲、可疑的学术研究、可疑的企业家行为以及令人不安的社会政治世界观，这些因素使 AI 想象变得棘手且有时有害。焦点集中在人类existential risk 研究领域和 effective altruism 运动之中，其意识形态的技术乐观主义、长期主义和超人主义与 AI 行业权力斗争相吻合，彰显出 speculative AI 概念、方法、伦理和社会问题。随后的讨论遍及更广阔的背景，以 inform 关闭摘要，对 potentially impactful AI imaginaries 进行更全面的评估、实际处理和进一步研究的建议。