开关、梯子和矩阵：人工智能系统分类模型
计算机与社会
2024-07-09 v1 人工智能
摘要
设计和部署人工智能系统的组织越来越多地承诺遵守高层次伦理原则。然而，AI伦理中原则与实践之间仍然存在差距。组织在尝试将AI伦理付诸实施时面临的一个主要障碍是缺乏明确的物质范围。换句话说，AI伦理原则应适用于哪些系统和过程的问题仍未得到解答。当然，不存在普遍接受的AI定义，不同的系统带来不同的伦理挑战。尽管如此，务实的解决问题要求对事物进行分类，以便其分组能促进针对特定目标的成功行动。在本文中，我们回顾并比较了以往为了在实践中实施AI治理而对AI系统进行分类的尝试。我们发现，以往文献中对AI系统进行分类的尝试使用了三种心智模型之一。开关，即一种二元方法，根据系统特征判断其是否为AI系统。梯子，即一种基于风险的方法，根据系统带来的伦理风险进行分类。以及矩阵，即一种多维分类方法，考虑各种方面，如上下文、数据输入和决策模型。每种AI系统分类模型都有其自身的优缺点。通过将不同的AI系统分类方式概念化为简单的心智模型，我们希望为设计、部署或监管AI系统的组织提供在实践中有助于将AI治理付诸实施的概念工具。
引用
@article{arxiv.2407.05341,
title = {The Switch, the Ladder, and the Matrix: Models for Classifying AI Systems},
author = {Jakob Mokander and Margi Sheth and David Watson and Luciano Floridi},
journal= {arXiv preprint arXiv:2407.05341},
year = {2024}
}