在人工智能中以人为本权而设计

在大数据时代，企业和政府正越来越多地利用算法来辅助招聘决策、员工管理、警务、信用评分、保险定价以及我们生活的诸多其他方面。AI 系统可帮助我们做出基于证据的高效决策，但也可能让我们面临不公正的歧视性决策，这些决策因自动且定量地做出而被错误地认为准确。显而易见，这些技术发展对人们的基本人权具有重大影响。尽管近年来对这些紧迫挑战的关注日益增加，但这些复杂社会伦理问题的技术解决方案往往在缺乏对社会语境的实证研究和受技术影响的社会利益相关者关键输入的情况下被开发。另一方面，对更具伦理与社会意识 AI 的呼吁常未能提供超越强调透明性、可解释性与公平性之外的具体推进答案。弥合这些社会技术鸿沟以及抽象价值语言与设计需求间的深刻分歧，对于促成支持道德与社会价值的细致、依赖语境的设计选择至关重要。本文中，我们通过价值设计（Design for Values）框架弥合此分歧，借鉴价值敏感设计（Value Sensitive Design）与参与式设计（Participatory Design）方法论，提出一条路线图，以通过结构化、包容且透明的过程，主动让社会利益相关者参与，将基本人权转化为依赖语境的设计需求。