护理标签概念：面向可信且资源感知机器学习的认证套件
机器学习
2021-06-02 v1
摘要
机器学习应用已变得无处不在。这导致了为使机器学习可信而付出的日益增多的努力。可解释与公平的 AI 已经成熟。它们面向有知识的用户与应用工程师。对于那些不愿投入时间去理解方法或所学模型的人，我们提供护理标签：一目了然易于理解，允许进行方法或模型比较，同时具有严谨的科学依据。一方面，这将 Fact Sheets 或 Model Cards 等给出的描述转化为非常适合终端用户的形式。另一方面，护理标签是一个认证套件的结果，该套件检验所声明的保证是否成立。在本文中，我们给出了使用认证套件的两个实验。其中一个展示了马尔可夫随机场（MRFs）配置的护理标签。基于 MRFs 的底层理论，每种选择都会导致其对表达力与可靠性等静态特性的特定评级。此外，对实现进行了测试并测量了资源消耗，从而得到动态特性。这一两阶段流程之后是另一个认证深度神经网络（DNN）模型的实验。在那里，我们从针对特定模型与数据集的文献中提取静态特性。在第二阶段，生成实验以提供针对某些攻击的鲁棒性度量。我们通过应用于 ImageNet 的 ResNet-18 与 MobileNetV3 来说明这一点。
引用
@article{arxiv.2106.00512,
title = {The Care Label Concept: A Certification Suite for Trustworthy and Resource-Aware Machine Learning},
author = {Katharina Morik and Helena Kotthaus and Lukas Heppe and Danny Heinrich and Raphael Fischer and Andreas Pauly and Nico Piatkowski},
journal= {arXiv preprint arXiv:2106.00512},
year = {2021}
}