基于 SAT 的贝叶斯网络严格验证方法
人工智能
2024-08-05 v1 计算机科学中的逻辑
摘要
近期机器学习的进展加速了其在 various 实际应用场景中的广泛采用。然而，在安全关键领域，部署机器学习模型面临诸多挑战，包括其复杂性、缺乏可解释性以及无法对其行为提供形式化保证。本文引入了一种针对贝叶斯网络的验证框架，以解决上述问题。我们的框架包括两个关键组件：(1) 一种两步编译和编码方案，将贝叶斯网络翻译为布尔逻辑文字；(2) 利用这些文字进行形式化验证查询，以验证编码为约束的各种属性。具体而言，我们引入了两种验证查询：if-then 规则（ITR）和特征单调性（FMO）。我们对验证方案的效率进行了基准测试，并在现实世界场景中展示了其实际实用性。
引用
@article{arxiv.2408.00986,
title = {A SAT-based approach to rigorous verification of Bayesian networks},
author = {Ignacy Stępka and Nicholas Gisolfi and Artur Dubrawski},
journal= {arXiv preprint arXiv:2408.00986},
year = {2024}
}
备注
Workshop on Explainable and Robust AI for Industry 4.0 & 5.0 (X-RAI) at European Conference on Machine Learning and Principles and Practice of Knowledge Discovery in Databases (2024)