基于知识的危险驾驶场景逻辑的鲁棒性验证
人工智能
2023-12-29 v1
摘要
现代生活中的许多决策场景受益于人工智能算法的决策支持，这些算法专注于数据驱动的理念和自动化程序或系统。然而，涉及安全、公平和隐私的关键决策问题应考虑更多的人类知识和原则，以监督此类 AI 算法获得更适当的解决方案，从而更有效地造福社会。在这项工作中，我们提取了基于知识的逻辑，定义了从公共交通事故数据集中学到的危险驾驶模式，据我们所知，这些数据集尚未得到详细分析。更重要的是，这些知识对于识别交通隐患至关重要，并可监督和改进安全关键系统中的 AI 模型。然后，我们使用自动验证方法来验证此类逻辑的鲁棒性。更具体地说，我们从 Data.gov 收集了 72 个事故数据集，并按州进行组织。此外，我们在每个州的数据集上训练决策树和 XGBoost 模型，推导事故判断逻辑。最后，我们在多种参数组合下对这些基于树的模型部署鲁棒性验证。
引用
@article{arxiv.2312.16364,
title = {Robustness Verification for Knowledge-Based Logic of Risky Driving Scenes},
author = {Xia Wang and Anda Liang and Jonathan Sprinkle and Taylor T. Johnson},
journal= {arXiv preprint arXiv:2312.16364},
year = {2023}
}