论构建有意识 AI 的伦理问题
人工智能
2023-03-15 v1
摘要
在其务实转向中，AI 伦理这一新兴学科逐渐被人类对造物的集体恐惧所主导，这反映在一脉广博且长盛不衰的文学传统中。玛丽·雪莱小说中对抗其创造者的弗兰肯斯坦怪物；H. 莱维克的 1920 年戏剧中暴走的异端傀儡；卡雷尔·恰佩克笔下反叛的机器人——这些以及该体裁数百个其他例子，是理解 AI 伦理专注于防止机器人对人类行为不端这一关切的最佳背景。在这三个虚构案例（以及许多其他案例）中，悲惨的人造造物——被无情剥削，或被杀人暴民逼入绝境，并在自卫中诉诸暴力——都得到了作者的同情。在现实生活中，除极少数例外，情况有所不同：研究 AI 伦理的理论家完全忽视了机器人可能需要免受其创造者伤害的可能性。本章探讨这一较少被考虑的 AI 伦理视角。
引用
@article{arxiv.2303.07439,
title = {On the ethics of constructing conscious AI},
author = {Shimon Edelman},
journal= {arXiv preprint arXiv:2303.07439},
year = {2023}
}
备注
Revised version to appear in "Computational Approaches to Conscious AI", edited by A. Chella (World Scientific, in preparation). arXiv admin note: substantial text overlap with arXiv:2002.05652