神经符号人工智能的验证与确认、测试及评估综述
人工智能
2024-01-11 v2
摘要
神经符号人工智能（AI）是 AI 的一个新兴分支，结合了符号 AI 和亚符号 AI 的优势。亚符号 AI 的一个主要缺点是它作为一个“黑箱”运作，意味着预测难以解释，这使得使用亚符号 AI 的系统的测试与评估（T&E）以及验证与确认（V&V）过程成为挑战。由于神经符号 AI 结合了两者的优势，本综述探讨了神经符号应用如何简化 V&V 过程。本综述考虑了神经符号 AI 的两种分类法，对其进行评估，并分析了当前应用中常用作符号和亚符号组件的算法。此外，还提供了这些组件的 T&E 和 V&V 过程当前技术的概述。进一步研究了在当前神经符号应用中，符号部分如何用于 T&E 和 V&V 目的。我们的研究表明，神经符号 AI 通过利用符号 AI 的可能性，在简化亚符号 AI 的 T&E 和 V&V 过程方面具有巨大潜力。此外，还评估了当前 T&E 和 V&V 方法对神经符号 AI 的适用性，并探讨了不同的神经符号架构如何影响这些方法。研究发现，当前的 T&E 和 V&V 技术部分足以独立测试、评估、验证或确认神经符号应用的符号和亚符号部分，而其中一些使用了默认情况下当前 T&E 和 V&V 方法不适用的方法，因此需要调整甚至新的方法。我们的研究表明，利用符号 AI 来测试、评估、验证或确认亚符号模型的预测具有巨大潜力，使神经符号 AI 成为实现安全、可靠和可信 AI 的一个有趣研究方向。
引用
@article{arxiv.2401.03188,
title = {A Survey on Verification and Validation, Testing and Evaluations of Neurosymbolic Artificial Intelligence},
author = {Justus Renkhoff and Ke Feng and Marc Meier-Doernberg and Alvaro Velasquez and Houbing Herbert Song},
journal= {arXiv preprint arXiv:2401.03188},
year = {2024}
}
备注
16 pages, 8 figures