面向智慧城市应用的可解释人工智能：一个安全可信平台

人工智能（AI）是塑造未来的颠覆性技术之一。它在智慧城市主要解决方案（包括交通、教育、医疗、公共治理和电力系统）的数据驱动决策中应用日益广泛。同时，它在保护关键网络基础设施免受网络威胁、攻击、损坏或未经授权访问方面也越来越受欢迎。然而，那些传统 AI 技术（如深度学习）的一个重大问题是，复杂性与精细程度的快速进步使其变成了不可解释的黑箱。在许多情况下，很难理解决策与偏差，以控制和信任系统意外或看似不可预测的输出。人们认识到，对决策可解释性的失控已成为许多数据驱动自动化应用的关键问题。但这会如何影响系统的安全性与可信度？本章对网络安全中的机器学习应用进行了全面研究，以指明对可解释性的需求来回答这一问题。在此过程中，本章首先讨论了面向智慧城市解决方案中网络安全应用的 AI 技术的黑箱问题。随后，考虑到可解释人工智能（XAI）这一新技术范式，本章讨论了从黑箱到白箱的转型。本章还讨论了在智慧城市中应用不同自治系统时，基于 AI 的技术在可解释性、透明性、可理解性和可解释性方面的转型需求。最后，在提出未来挑战与机遇之前，本章展示了一些在传统 AI 技术之上提供可解释性的商业 XAI 平台。