TA3：针对机器学习模型对抗攻击的测试
密码学与安全
2024-10-10 v1 机器学习
摘要
对抗攻击是机器学习（ML）模型在众多应用中面临的主要威胁。针对此类攻击对ML模型进行测试正在成为评估和改进ML模型的 essential 步骤。本文报告了用于辅助对抗攻击测试工作流程的交互式系统设计与开发。在TA3中，人机协同（HITL）使人类驾驶的攻击模拟和可视化辅助的攻击影响评估成为可能。虽然当前版本的TA3专注于针对基于单像素攻击方法对决策树模型进行对抗攻击测试，但它仍然展示了HITL在ML测试中的重要性，以及HITL潜在应用于其他类型ML模型和其他类型对抗攻击的可能性。
引用
@article{arxiv.2410.05334,
title = {TA3: Testing Against Adversarial Attacks on Machine Learning Models},
author = {Yuanzhe Jin and Min Chen},
journal= {arXiv preprint arXiv:2410.05334},
year = {2024}
}