人工智能与自动化决策风险监管的规范性挑战

Carsten Orwat; Jascha Bareis; Anja Folberth; Jutta Jahnel; Christian Wadephul

人工智能与自动化决策风险监管的规范性挑战

计算机与社会 2022-11-14 v1

作者: Carsten Orwat , Jascha Bareis , Anja Folberth , Jutta Jahnel , Christian Wadephul

摘要

近期旨在监管人工智能(AI)与自动化决策(ADM)的提案提出了一种特定形式的风险监管,即基于风险的方法。最显著的例子是欧盟委员会提出的《人工智能法案》(AIA)。本文探讨了适当风险监管所面临的挑战,这些挑战主要源于所涉及风险的特定类型,即保护基本权利与基本社会价值的风险。它们主要来自于在解释、明确或将基本权利与社会价值操作化为风险评估时的规范性模糊。这一点通过(1)人的尊严、(2)信息自决、数据保护与隐私、(3)正义与公平以及(4)共同利益加以例证。规范性模糊要求做出规范性选择,这些选择在拟议的AIA中分布于不同行为主体之间。尤其关键的规范性选择包括:为明确风险而选取规范性概念、聚合与量化风险(含指标使用)、平衡价值冲突、设定可接受风险水平以及标准化。为避免缺乏民主合法性与法律不确定性,本文建议开展科学与政治辩论。

关键词

人工智能法案基于风险的监管自动化决策基本权利规范性模糊民主合法性

引用

@article{arxiv.2211.06203,
  title  = {Normative Challenges of Risk Regulation of Artificial Intelligence and Automated Decision-Making},
  author = {Carsten Orwat and Jascha Bareis and Anja Folberth and Jutta Jahnel and Christian Wadephul},
  journal= {arXiv preprint arXiv:2211.06203},
  year   = {2022}
}

备注

37 pages

人工智能与自动化决策风险监管的规范性挑战

摘要

关键词

引用

备注

相关论文