DiCriTest: 面向决策智能体的多样性与关键性测试场景生成
机器学习
2025-08-18 v1
摘要
决策智能体在动态环境中的广泛部署增加了安全验证的需求。虽然关键测试场景生成作为一种有前景的验证方法已受到关注，但在多样性与关键性之间实现有效平衡仍是现有方法面临的关键挑战，尤其是由于在高维场景空间中易陷入局部最优。为解决这一局限，我们提出了一种双空间引导的测试框架，协调场景参数空间与智能体行为空间，旨在生成兼顾多样性与关键性的测试场景。具体而言，在场景参数空间中，层次化表示框架结合降维与多维子空间评估，高效定位多样且关键的子空间。这指导了两种生成模式之间的动态协调：局部扰动与全局探索，从而优化关键场景数量与多样性。补充地，在智能体行为空间中，利用智能体-环境交互数据来量化行为关键性/多样性，并自适应地支持生成模式切换，形成闭环反馈循环，持续增强参数空间中的场景表征与探索。实验表明，在五种决策智能体上，我们的框架将关键场景生成质量平均提升了56.23%，并且在新颖的参数-行为联合驱动指标下展现出更强的多样性，优于现有最先进基线。
引用
@article{arxiv.2508.11514,
title = {DiCriTest: Testing Scenario Generation for Decision-Making Agents Considering Diversity and Criticality},
author = {Qitong Chu and Yufeng Yue and Danya Yao and Huaxin Pei},
journal= {arXiv preprint arXiv:2508.11514},
year = {2025}
}