人工智能中的艰难抉择
计算机与社会
2021-06-22 v1 人工智能
系统与控制
系统与控制
摘要
随着 AI 系统被整合到高风险社会领域，研究人员正在审视如何以安全且合乎伦理的方式设计和运行它们。然而，在复杂社会语境中识别与诊断安全风险的标准仍不明确且存在争议。在本文中，我们审视了关于 AI 系统安全性与伦理行为辩论中的模糊性。我们表明，这种模糊性无法仅通过数学形式化解决，而是需要对开发政治以及部署语境进行审议。借助一个新的社会技术词汇表，我们根据 AI 系统开发关键阶段中不同的设计挑战重新定义了模糊性。由此产生的“人工智能中的艰难抉择”（HCAI）框架通过以下方式赋能开发者：1）识别设计决策与重大社会技术挑战之间的重叠点；2）推动建立利益相关者反馈渠道，以便安全问题得到详尽处理。因此，HCAI 对关于民主社会中 AI 开发现状的及时辩论作出了贡献，主张审议应是 AI 安全的目标，而不仅是确保其安全的程序。
引用
@article{arxiv.2106.11022,
title = {Hard Choices in Artificial Intelligence},
author = {Roel Dobbe and Thomas Krendl Gilbert and Yonatan Mintz},
journal= {arXiv preprint arXiv:2106.11022},
year = {2021}
}
备注
Pre-print. Shorter versions published at Neurips 2019 Workshop on AI for Social Good and Conference on AI, Ethics and Society 2020