将责任委托给智能自主系统：挑战与利益
计算机与社会
2024-11-26 v1 人工智能
摘要
随着AI系统日益具有自主性和适应性，技术-社会系统中道德责任的传统边界正在受到挑战。本文探讨了将责任委托给智能自主代理人以及此类实践的伦理含义。通过综合最新发展的AI伦理，包括分布式责任和以伦理为导向的AI设计概念，本文提出了功能主义视角作为一种框架。该视角将道德责任不视为个人特质，而是作为社会技术系统中的一个角色，在人类和人工代理人之间分布。作为“AI伦理设计”的一个例子，本文呈现了Basti和Vitiello的实现方案。他们认为AI可以通过学习伦理准则并使用Deontic Higher-Order Logic来评估决策的伦理性。受速度和规模超出人类监督和伦理含义的启发，本文论证了“AI伦理设计”，同时承认责任是分布式、共享和动态的。这种功能主义方法为在快速演变的技术环境中导航AI伦理的复杂性提供了实用框架。
引用
@article{arxiv.2411.15147,
title = {Delegating Responsibilities to Intelligent Autonomous Systems: Challenges and Benefits},
author = {Gordana Dodig-Crnkovic and Gianfranco Basti and Tobias Holstein},
journal= {arXiv preprint arXiv:2411.15147},
year = {2024}
}