推进可信人工智能与机器学习能力的研发
机器学习
2020-09-29 v1 密码学与安全
计算机与社会
软件工程
摘要
人工智能(AI)和机器学习(ML)在所有战争域中新型防御与情报能力的发展已变得愈发关键。对抗性 AI(A2I)和对抗性 ML(AML)攻击试图欺骗并操纵 AI/ML 模型。AI/ML 模型能够防御这些攻击至关重要。A2I/AML 防御将有助于为使用 AI/ML 模型的这些先进能力提供必要的保证。A2I 工作组(A2IWG)旨在通过在美国国防部与美国情报界营造协作环境,经由新的 A2I/AML 防御来推进可信 AI/ML 能力的研发。A2IWG 旨在识别其可更直接帮助解决或应对的具体挑战,初期聚焦于三个主题:AI 可信鲁棒性、AI 系统安全以及 AI/ML 架构漏洞。
引用
@article{arxiv.2009.13250,
title = {Advancing the Research and Development of Assured Artificial Intelligence and Machine Learning Capabilities},
author = {Tyler J. Shipp and Daniel J. Clouse and Michael J. De Lucia and Metin B. Ahiskali and Kai Steverson and Jonathan M. Mullin and Nathaniel D. Bastian},
journal= {arXiv preprint arXiv:2009.13250},
year = {2020}
}
备注
Presented at AAAI FSS-20: Artificial Intelligence in Government and Public Sector, Washington, DC, USA