人工智能时代下的欧洲公民评分

社会评分是《人工智能法案》禁止的人工智能实践之一。这项禁令明确受到中国的启发，中国在2014年宣布打算建立一个大规模政府项目——社会信用体系，旨在利用数字技术和人工智能，根据每个中国公民的良好行为对其进行评分。但在欧洲，个人也在各种情境下被公共和私人机构评分，例如评估信用度、监控员工生产力、检测社会欺诈或恐怖主义风险等。然而，《人工智能法案》无意禁止这些类型的评分，因为它们将被定性为“高风险人工智能系统”，这类系统在满足各种要求的情况下是被授权的。因此，人们可能会认为，对社会评分的禁令对欧洲已在使用的评分实践不会产生实际影响，它仅仅是一个模糊的保障措施，以防某个威权主义政权试图在欧洲领土上建立此类系统。与这种观点相反，本文认为，该禁令的起草方式具有灵活性，因此很可能使其成为一个有用的工具，与《通用数据保护条例》第22条类似且互补，以保护个人免受某些形式的基于人工智能的评分的不当使用。