利用领域专家关键状态的自适应失效搜索

揭示潜在失效案例是自动驾驶汽车等安全关键系统验证中的关键步骤。失效搜索可通过在仿真或真实世界测试中记录大量车辆里程来完成。由于失效事件稀疏，朴素随机搜索方法需要大量车辆运行小时才能发现潜在系统弱点。因此，人们提出了自适应搜索技术，以高效探索并揭示仿真中自主策略的失效轨迹。自适应压力测试（AST）便是这样一种方法，它将失效搜索问题表述为马尔可夫决策过程，并利用强化学习技术寻找高概率失效。然而，该表述需要对环境中所有智能体动作的概率模型。在环境动作为离散且智能体间存在依赖的系统中，完全刻画分布或找到合适代理可能不可行。本工作提出采用数据驱动方法学习一个合适的分类器，试图建模人类如何识别关键状态，并用其指导 AST 中的失效搜索。我们表明，将关键状态纳入 AST 框架可在具有离散动作空间的自动驾驶策略中生成具有更多安全违规的失效场景。