基于约束的对抗样本合成
密码学与安全
2024-06-04 v1 软件工程
摘要
在人工智能（AI）快速发展的时代，神经网络模型取得了显著的突破。然而，关于它们对对抗性攻击的脆弱性的担忧也随之而来。本研究侧重于增强Concolic测试，这是一种专门用于测试实现神经网络的Python程序的技术。扩展后的工具PyCT现在支持更广泛的神经网络操作，包括浮点和激活函数计算。通过系统地生成预测路径约束，该研究有助于识别潜在的对抗样本。该研究在各种神经网络架构上展示了有效性，突出了基于Python的神经网络模型对对抗性攻击的脆弱性。这项研究通过强调需要稳健的测试方法来检测和减轻潜在的对抗性威胁，为保护AI驱动的应用做出了贡献。它强调了严格的测试技术在强化神经网络模型以在Python中实现可靠应用方面的重要性。
引用
@article{arxiv.2406.01219,
title = {Constraint-based Adversarial Example Synthesis},
author = {Fang Yu and Ya-Yu Chi and Yu-Fang Chen},
journal= {arXiv preprint arXiv:2406.01219},
year = {2024}
}