一种可保证安全的人类启发式感知架构

尽管使用深度神经网络（DNN）的基于人工智能的感知（AIP）已实现接近人类水平的性能，但其众所周知的局限性是自主应用中所需安全保证的障碍。这些局限性包括易受对抗性输入攻击、无法处理新颖输入以及不可解释性。虽然解决这些局限性的研究非常活跃，但在本文中，我们认为需要一种根本不同的方法来解决它们。受人类认知的双过程模型启发，其中类型 1 思维快速且无意识，而类型 2 思维缓慢且基于有意识的推理，我们提出了一种用于安全 AIP 的双过程架构。我们回顾了关于人类如何处理最简单的非平凡感知问题——图像分类的研究，并为此任务勾勒了一个相应的 AIP 架构。我们认为，该架构可以提供一种系统性的方法来解决使用 DNN 的 AIP 的局限性，并提供一种保证人类水平性能及超越人类水平性能的方法。最后，我们讨论了该架构的哪些组成部分可能已被现有工作解决，哪些仍有待未来研究。