连接人类概念与计算机视觉以实现可解释的人脸验证
计算机视觉与模式识别
2024-03-15 v1 人工智能
人机交互
机器学习
摘要
随着人工智能（AI）影响人脸验证等敏感应用的决策过程，确保决策的透明性、公平性和问责制变得至关重要。尽管存在可解释人工智能（Explainable Artificial Intelligence, XAI）技术来阐明 AI 决策，但向人类提供这些决策的可解释性同样重要。在本文中，我们提出了一种结合计算机视觉与人类视觉的方法，以提高人脸验证算法解释的可解释性。具体而言，我们受人类感知过程的启发，以理解机器在人脸比对任务中如何感知人脸的人类语义区域。我们使用 Mediapipe，它提供了一种分割技术，能够识别不同的人类语义面部区域，从而实现对机器感知的分析。此外，我们改编了两种模型无关算法，为决策过程提供了人类可解释的见解。
引用
@article{arxiv.2403.08789,
title = {Bridging Human Concepts and Computer Vision for Explainable Face Verification},
author = {Miriam Doh and Caroline Mazini Rodrigues and Nicolas Boutry and Laurent Najman and Matei Mancas and Hugues Bersini},
journal= {arXiv preprint arXiv:2403.08789},
year = {2024}
}