基于强化学习的黑箱图像、视频和心电信号分类的鲁棒性与可视化解释
机器学习
2024-04-23 v2 人工智能
密码学与安全
计算机视觉与模式识别
多智能体系统
摘要
我们提出了一个通用的强化学习(RL)框架，用于针对涵盖心电信号分析（1D）、图像分类（2D）和视频分类（3D）的不同模型类型 crafting对抗性攻击。该框架聚焦于识别敏感区域并以最小扰动和各种扰动类型诱导误分类。新型RL方法在所有三个应用中均超越了最先进的方法，证明其效率。我们的RL方法产生优越的局部化掩码，增强了图像分类和心电信号分析模型的可解释性。对于心电信号分析等应用，本平台为临床医生highlight关键心电段，同时确保免受常见扰动的影响。这个综合性工具旨在加强跨不同应用和数据类型的抗性与透明性。
引用
@article{arxiv.2403.18985,
title = {Robustness and Visual Explanation for Black Box Image, Video, and ECG Signal Classification with Reinforcement Learning},
author = {Soumyendu Sarkar and Ashwin Ramesh Babu and Sajad Mousavi and Vineet Gundecha and Avisek Naug and Sahand Ghorbanpour},
journal= {arXiv preprint arXiv:2403.18985},
year = {2024}
}
备注
AAAI Proceedings reference: https://ojs.aaai.org/index.php/AAAI/article/view/30579