机器为何无法道德：图灵停机问题与人工智能的道德限制
计算机与社会
2024-07-25 v1 人工智能
摘要
在本文中，我论证明，明确的伦理机器——即通过自下而上方法推断其道德原则的机器——无法复制人类式的道德推理，无法被视为道德主体。通过运用艾伦·图灵的计算理论，我展示道德推理对这些机器而言是计算上不可行的，因停机问题。我探讨了机器伦理的前沿，通过将道德问题形式化为'算法道德问题'，并探索道德心理学的双过程模型。尽管图灵机器的本质理论上允许人工代理进行递归道德推理，但停机问题的关键限制被引入，该问题指出无法确定计算过程是否会停止。一个涉及军事无人机的思想实验说明了这一问题，表明人工代理可能因停机问题而无法在决定行动之间做出决定，这削弱了其在所有情况下做出决定的能力，从而动摇了其道德主体性。
引用
@article{arxiv.2407.16890,
title = {Why Machines Can't Be Moral: Turing's Halting Problem and the Moral Limits of Artificial Intelligence},
author = {Massimo Passamonti},
journal= {arXiv preprint arXiv:2407.16890},
year = {2024}
}