工业应用中人工智能的安全与安保问题

在这篇相对非正式的讨论文中，我们总结了机器学习在安全与安保领域中将影响未来五到十年工业部门的问题。各类使用神经网络分类的产品，最常见于视觉相关应用，也见于预测性维护，近年来已被研究并应用于现实世界场景。然而，安全与安保相关领域中底层问题的报告（例如对抗攻击）已令早期采用者不安，并威胁阻碍该技术的更广泛应用。现实世界适用性的问题在于能够评估应用这些技术的风险。在本讨论文中，我们描述了获得机器学习神经网络分类器的过程，指出该工作流中的安全与安保漏洞，并在适当处引用相关研究。