有德之机——旧伦理之于新技术？
人工智能
2018-06-28 v1
摘要
现代 AI 与机器人系统的自主程度极高且持续攀升。与此同时，其在自动驾驶、服务机器人与数字个人助理等领域的应用日益贴近人类。这两大趋势的结合催生了 AI 伦理这一领域，它认识到自主机器的行为具有道德维度，并试图回答我们如何构建有道德的机器这一问题。在本文中，我们主张从亚里士多德的美德伦理中汲取灵感，通过表明其因注重从经验中学习而与现代化 AI 形成适宜结合来论证这一点。我们进一步提出，作为美德伦理核心概念的、源自道德典范的模仿学习能够解决价值对齐问题。最后，我们表明，被赋予节制之德以及对人类的友谊的智能系统不会构成控制问题，因为它不会有无限自我改进的欲望。
引用
@article{arxiv.1806.10322,
title = {The Virtuous Machine - Old Ethics for New Technology?},
author = {Nicolas Berberich and Klaus Diepold},
journal= {arXiv preprint arXiv:1806.10322},
year = {2018}
}