以增强的福祉评估作为 AI 伦理与基于权利的规范性原则实际实施的基础
计算机与社会
2020-09-16 v2
摘要
人工智能（AI）对人们生计的所有领域影响日益增强。详细审视现有的跨学科与超学科指标框架可带来新见解，并使从业者能够应对理解和评估自主与智能系统（A/IS）影响的挑战。学者、政府、民权组织和科技公司所提出的基本伦理与基于权利的 AI 原则已逐渐形成共识。为从原则走向现实世界实施，我们采用受监管影响评估和公共政策中福祉运动启发的视角。与公共政策干预类似，AI 系统实施的结果可能具有深远的复杂影响。在公共政策中，指标仅是更广义工具箱的一部分，因为指标本质上会导致博弈行为以及激励与目标的消解。类似地，在 A/IS 情况下，需要更大的工具箱，以允许对已识别影响进行迭代评估、将新影响纳入分析，并识别新兴的权衡取舍。在本文中，我们提出增强的福祉影响评估框架在 A/IS 中的实际应用，该框架可用于处理 AI 中伦理与基于权利的规范性原则。此过程可支持一种以人为本的、算法辅助的 AI 系统影响理解方法。最后，我们提出一种新的测试基础设施，使政府、民权组织及其他主体能够与 A/IS 开发者合作，以实施增强的福祉影响评估。
引用
@article{arxiv.2007.14826,
title = {Enhanced well-being assessment as basis for the practical implementation of ethical and rights-based normative principles for AI},
author = {Marek Havrda and Bogdana Rakova},
journal= {arXiv preprint arXiv:2007.14826},
year = {2020}
}
备注
8 pages, In the Proceedings of 2020 IEEE International Conference on Systems, Man and Cybernetics (SMC)