在语义规范下审计AI模型以实现可验证部署

Homanga Bharadhwaj; De-An Huang; Chaowei Xiao; Anima Anandkumar; Animesh Garg

在语义规范下审计AI模型以实现可验证部署

机器学习 2021-11-02 v2 人工智能计算机视觉与模式识别

作者: Homanga Bharadhwaj , De-An Huang , Chaowei Xiao , Anima Anandkumar , Animesh Garg

摘要

在部署前对训练好的深度学习(DL)模型进行审计对于防止意外后果至关重要。审计中最大的挑战之一是缺乏对审计员直接有用的、人类可解释的DL模型规范。我们通过一系列语义对齐的单元测试来解决这一挑战,其中每个单元测试验证预定义规范(例如准确率超过95%)是否相对于输入空间中受控且语义对齐的变化(例如在人脸识别中,相对于相机角度)得到满足。我们通过在生成模型的语义可解释潜空间中引入变化来实现此类单元测试。此外,我们通过与生成模型共享潜空间表示,对DL模型进行认证训练。通过在四个不同数据集(涵盖胸部X光片、人脸、ImageNet类别和塔的图像)上的评估,我们展示了AuditAI如何使我们获得用于认证训练的受控变化。因此,我们的框架AuditAI弥合了语义对齐的形式化验证与可扩展性之间的差距。 accompanying the paper 的博客文章位于此链接 https://developer.nvidia.com/blog/nvidia-research-auditing-ai-models-for-verified-deployment-under-semantic-specifications

关键词

审计深度学习模型语义规范认证训练潜空间变化单元测试生成模型 AuditAI

引用

@article{arxiv.2109.12456,
  title  = {Auditing AI models for Verified Deployment under Semantic Specifications},
  author = {Homanga Bharadhwaj and De-An Huang and Chaowei Xiao and Anima Anandkumar and Animesh Garg},
  journal= {arXiv preprint arXiv:2109.12456},
  year   = {2021}
}

备注

Preprint; Under review

在语义规范下审计AI模型以实现可验证部署

摘要

关键词

引用

备注

相关论文