隐私遇见可解释性：一项综合影响基准研究
机器学习
2024-07-09 v1 人工智能
计算机视觉与模式识别
摘要
自10年代中期以来，深度学习（DL）时代延续至今，每年都带来新的极致表现与创新。然而，这些创新转化为实际应用的速度落后于这一快节奏。尤其是安全关键型应用，受制于严格的监管与伦理要求，这些要求需被妥善处理，且仍是活跃的争论领域。可解释人工智能（XAI）与隐私保护机器学习（PPML）均为关键的研究领域，旨在缓解DL中主流数据饥渴型黑盒模型的一些缺陷。尽管各自领域研究活跃，其相互作用尚未受到关注。本工作是首个研究隐私学习技术对基于DL模型所生成解释之影响的工作。在一项涵盖多领域各类图像与时间序列数据集、不同隐私技术、XAI方法与模型架构的广泛实验分析中，研究了私有训练对生成解释的影响。研究结果表明，隐私的引入会对解释产生不可忽略的改变。除报告PPML对XAI的个体影响外，本文还为实际应用中技术的选择给出了明确建议。通过揭示这些关键技术间的相互依赖关系，本工作是为克服安全关键领域实用AI剩余障碍的第一步。
引用
@article{arxiv.2211.04110,
title = {Privacy Meets Explainability: A Comprehensive Impact Benchmark},
author = {Saifullah Saifullah and Dominique Mercier and Adriano Lucieri and Andreas Dengel and Sheraz Ahmed},
journal= {arXiv preprint arXiv:2211.04110},
year = {2024}
}
备注
Under Submission