迈向基于理论的道德AI：基于规范伦理学聚合模型的道德AI
人工智能
2023-06-21 v1 计算与语言
摘要
道德AI已在哲学和人工智能领域得到研究。尽管现有的大多数研究仅停留在理论层面，但近期AI的发展使得实现具有道德的AI变得越来越必要。另一方面，人类处于不知道何为道德正确的道德不确定性之中。在本文中，我们实现了最大化期望选择价值（MEC）算法，该算法聚合基于规范伦理学三种规范理论的模型输出，以生成最合适的输出。MEC是一种在道德不确定性下做出适当道德判断的方法。我们的实验结果表明，MEC的输出在一定程度上与常识道德相关，并且MEC能够产生与现有方法相当或更合适的输出。
引用
@article{arxiv.2306.11432,
title = {Towards Theory-based Moral AI: Moral AI with Aggregating Models Based on Normative Ethical Theory},
author = {Masashi Takeshita and Rzepka Rafal and Kenji Araki},
journal= {arXiv preprint arXiv:2306.11432},
year = {2023}
}
备注
Accepted IJCAI 2023 Workshop of Ethics and Trust in Human-AI Collaboration: Socio-Technical Approaches (EthAIcs 2023)