人工愚蠢
计算机与社会
2020-07-08 v1 人工智能
摘要
关于 AI 的公众讨论被弗兰肯斯坦综合征所主导，即害怕 AI 变得超人并逃脱人类控制。尽管超级智能当然是一种可能性，但它引发的兴趣会使公众从更迫在眉睫的担忧中分心：人工愚蠢（AS）的兴起。本文讨论了弗兰肯斯坦综合征在玛丽·雪莱 1818 年著名小说中的根源。随后它提供了一个分析人工主体愚蠢程度的哲学框架，表明现代智能系统可被视为患有“判断的愚蠢”。最后它指出了一个替代的文学传统，揭示了 AS 的危险与益处。在埃德蒙·斯宾塞、乔纳森·斯威夫特和 E.T.A. 霍夫曼的著作中，AS 取代、压迫或诱惑其人类用户。更乐观地，约瑟夫·弗菲和劳伦斯·斯特恩设想了可作为地图或管道服务于人类智力的 AS。这些作家提供了对当前驱动 AI 辩论的神话的强力反叙事。他们指出了即使愚蠢的人工主体也能逃避人类控制的方式，例如通过诉诸刻板印象或使我们远离现实。并且他们强调了在日益自动化的社会中文学想象力的持续重要性。
引用
@article{arxiv.2007.03616,
title = {Artificial Stupidity},
author = {Michael Falk},
journal= {arXiv preprint arXiv:2007.03616},
year = {2020}
}