《人工智能法案》下法医图像分析的合规挑战

在法医图像分析的许多应用中，如今最先进的结果是通过机器学习方法实现的。然而，对其可靠性和不透明性的担忧引发了这些方法能否用于刑事调查的问题。到目前为止，这种法律合规性问题很少被讨论，部分原因是机器学习方法的法规没有明确定义。为此，欧洲委员会最近提出了《人工智能法案》，这是一个用于可信赖使用AI的监管框架。根据《人工智能法案》草案，用于执法的高风险AI系统是被允许的，但必须遵守强制性要求。在本文中，我们回顾了为什么在法医图像分析中使用机器学习被归类为高风险。然后，我们总结了高风险AI系统的强制性要求，并结合两个法医应用——车牌识别和深度伪造检测——讨论了这些要求。本文的目的是提高对即将到来的法律要求的认识，并指出未来研究的途径。