连接主义AI应用的漏洞：评估与防御
密码学与安全
2020-07-30 v1 人工智能
机器学习
软件工程
机器学习
摘要
本文探讨连接主义人工智能（AI）应用的IT安全性，聚焦于对完整性这一三大IT安全目标之一的威胁。此类威胁在著名的AI计算机视觉应用中尤为相关。为对IT安全目标完整性给出整体视图，本文考量了诸多附加方面，如可解释性、鲁棒性与文档化。通过综述前沿文献，给出了威胁与可能缓解措施的全面清单。详细讨论了对抗攻击与投毒攻击等AI特有漏洞及其AI特有根源。此外，与以往综述不同，本文针对整个AI供应链分析漏洞，涵盖规划、数据获取、训练、评估与运行阶段。缓解措施的讨论同样不限于AI系统自身层面，而是倡导在供应链及其嵌入的更大型IT基础设施与硬件设备语境中审视AI系统。基于此，并鉴于自适应攻击者可能规避迄今任何单一已发布的AI特有防御，本文结论认为单一保护措施并不充分，必须结合不同层面的多种措施，方能实现AI应用的最低IT安全水平。
引用
@article{arxiv.2003.08837,
title = {Vulnerabilities of Connectionist AI Applications: Evaluation and Defence},
author = {Christian Berghoff and Matthias Neu and Arndt von Twickel},
journal= {arXiv preprint arXiv:2003.08837},
year = {2020}
}
备注
20 pages, 8 figures, 1 table