使用变分自编码器为业务流程生成真实对抗样本
机器学习
2024-11-22 v1 人工智能
摘要
在预测性流程监控中，预测模型容易受到对抗性攻击，输入扰动可能导致错误预测。与计算机视觉中这些扰动被设计为对人眼不可见不同，在预测性流程监控中生成对抗样本带来了独特的挑战。由于存在诸如监管规则或流程约束等底层约束，对活动序列的微小更改可能会产生不可能甚至无法发生的场景。为了解决这个问题，我们专注于生成针对业务流程上下文的真实对抗样本，这与计算机视觉对抗攻击中常见的不可见像素级更改形成对比。本文介绍了两种新颖的潜在空间攻击方法，它们通过向输入数据的潜在空间表示添加噪声来生成对抗样本，而不是直接修改输入属性。这些潜在空间方法是领域无关的，不依赖于流程特定知识，因为我们通过直接扰动业务流程执行的潜在空间表示，将对抗样本的生成限制在学习的类别特定数据分布内。我们在十一个真实事件日志和四个预测模型上，将这两种潜在空间方法与另外六种对抗攻击方法进行了评估。前三种攻击方法直接置换历史观察到的业务流程执行的活动。第四种方法通过将对抗样本投影到原始数据分布，将其限制在与原始实例相同的数据分布内。
引用
@article{arxiv.2411.14263,
title = {Generating Realistic Adversarial Examples for Business Processes using Variational Autoencoders},
author = {Alexander Stevens and Jari Peeperkorn and Johannes De Smedt and Jochen De Weerdt},
journal= {arXiv preprint arXiv:2411.14263},
year = {2024}
}