高风险AI系统的自我认证：以基于AI的面部情绪识别为例

欧盟《人工智能法案》为高风险AI系统制定了全面的要求，然而，用于证明合规性的协调标准尚未完全制定。在本文中，我们通过一个基于AI的面部情绪识别系统的完整自我认证周期，研究了弗劳恩霍夫AI评估目录作为认证框架的实际应用。从一个存在缺陷的基线模型开始，包括不充分的代表性人口统计和预测不确定性，我们记录了一个由AI认证要求指导的增强过程。增强后的系统在可靠性指标和跨人口统计组的全面公平性方面实现了更高的准确率。我们将评估重点放在弗劳恩霍夫目录六个维度中的两个——可靠性和公平性上，增强后的系统成功满足了这些被考察维度的认证标准。我们发现，该认证框架作为一种主动的开发工具具有价值，能够推动具体的技术改进，并通过融入开发过程自然地生成文档。然而，结构化的自我认证与法律合规之间存在根本性差距：欧洲协调标准尚未完全可用，而AI评估框架和目录本身无法替代它们。这些发现确立了弗劳恩霍夫AI评估目录作为一种有价值的准备工具的地位，它目前是对正式合规要求的补充而非替代。