面向广大人工智能硕士生的神经网络验证
人工智能
2019-07-03 v1 编程语言
摘要
AI 应用的快速发展刺激了需求，并催生了数量与种类急剧增长的人工智能硕士项目。AI 与机器人研究界、工业界及学生日益意识到不安全或不安全的 AI 应用所带来的问题。其中，或许最著名的例子是深度神经网络对“对抗攻击”的脆弱性。由于神经网络在 AI 各领域被广泛使用，该问题被视为尤为严峻且普遍。尽管关于 AI 应用安全性与安全性漏洞的研究论文数量不断增长，但用于将验证纳入 AI 项目的易用工具、方法与教学材料仍明显匮乏。LAIV——AI 与验证实验室——是赫瑞瓦特大学新成立的研究实验室，其组织 AI 与机器人学硕士生参与验证项目，作为他们硕士论文工作的一部分。本文中，我们将汇报 LAIV 所遇到的成功与意外困难，其中许多源于现有用于验证的编程语言的局限性。我们将探讨将验证纳入 AI 学位项目的未来方向。
引用
@article{arxiv.1907.01297,
title = {Neural Network Verification for the Masses (of AI graduates)},
author = {Ekaterina Komendantskaya and Rob Stewart and Kirsy Duncan and Daniel Kienitz and Pierre Le Hen and Pascal Bacchus},
journal= {arXiv preprint arXiv:1907.01297},
year = {2019}
}