检视、理解、克服：AI安全实用方法综述
机器学习
2022-07-22 v1 计算机与社会
摘要
由于众多模型固有的缺陷，在移动医疗和自动驾驶等安全关键应用中使用深度神经网络（DNNs）具有挑战性。这些缺陷多种多样，从缺乏泛化能力、可解释性不足到恶意输入问题不一而足。因此，采用DNNs的信息物理系统很可能面临安全担忧。近年来，旨在解决这些安全担忧的最先进技术如动物园般涌现。本工作对它们进行了结构化且广泛的概述。我们首先确定缺陷的类别，然后描述旨在检测、量化或缓解这些缺陷的研究活动。我们的论文同时面向机器学习专家和安全工程师：前者可能从所涵盖的广泛机器学习主题以及对近期方法局限性的讨论中获益；后者可能深入了解现代ML方法的特性。此外，我们希望我们的贡献能激发关于ML系统需求和如何相应推进现有方法的讨论。
引用
@article{arxiv.2104.14235,
title = {Inspect, Understand, Overcome: A Survey of Practical Methods for AI Safety},
author = {Sebastian Houben and Stephanie Abrecht and Maram Akila and Andreas Bär and Felix Brockherde and Patrick Feifel and Tim Fingscheidt and Sujan Sai Gannamaneni and Seyed Eghbal Ghobadi and Ahmed Hammam and Anselm Haselhoff and Felix Hauser and Christian Heinzemann and Marco Hoffmann and Nikhil Kapoor and Falk Kappel and Marvin Klingner and Jan Kronenberger and Fabian Küppers and Jonas Löhdefink and Michael Mlynarski and Michael Mock and Firas Mualla and Svetlana Pavlitskaya and Maximilian Poretschkin and Alexander Pohl and Varun Ravi-Kumar and Julia Rosenzweig and Matthias Rottmann and Stefan Rüping and Timo Sämann and Jan David Schneider and Elena Schulz and Gesina Schwalbe and Joachim Sicking and Toshika Srivastava and Serin Varghese and Michael Weber and Sebastian Wirkert and Tim Wirtz and Matthias Woehrle},
journal= {arXiv preprint arXiv:2104.14235},
year = {2022}
}
备注
94 pages