HH4AI:欧盟人工智能法案下人工智能人权影响评估的方法学框架
计算机与社会
2025-03-26 v1 人工智能
机器学习
摘要
本文介绍了 HH4AI 方法学,一种评估人工智能系统对人权影响的结构化方法,重点关注与欧盟人工智能法案的合规性,并应对技术、伦理与监管方面的挑战。本文强调了人工智能由自主性、数据与目标导向设计所驱动的变革性本质,以及欧盟人工智能法案如何促进透明度、问责制与安全性。一个关键挑战在于跨行业定义与评估"高风险"人工智能系统,这由于缺乏普遍接受的标准以及人工智能的快速演进而变得复杂。为应对这些挑战,本文探讨了 ISO/IEC 与 IEEE 标准的相关性,重点关注风险管理、数据质量、偏见缓解与治理。本文提出了一种基本权利影响评估(FRIA)方法学,一种基于关卡(门)的框架,旨在通过包括人工智能系统概述、人权清单、影响评估与最终输出阶段在内的各阶段来隔离与评估风险。过滤机制根据系统特征定制评估,针对问责制、人工智能素养、数据治理与透明度等领域。本文通过一个虚构的自动化医疗分诊服务案例研究说明了 FRIA 方法学。该结构化方法能够进行系统过滤、全面风险评估与缓解规划,有效优先处理关键风险并提供清晰的补救策略。这促进了对人权原则的更好对齐,并增强了监管合规性。
引用
@article{arxiv.2503.18994,
title = {HH4AI: A methodological Framework for AI Human Rights impact assessment under the EUAI ACT},
author = {Paolo Ceravolo and Ernesto Damiani and Maria Elisa D'Amico and Bianca de Teffe Erb and Simone Favaro and Nannerel Fiano and Paolo Gambatesa and Simone La Porta and Samira Maghool and Lara Mauri and Niccolo Panigada and Lorenzo Maria Ratto Vaquer and Marta A. Tamborini},
journal= {arXiv preprint arXiv:2503.18994},
year = {2025}
}
备注
19 pages, 7 figures, 1 table