FIMBA：通过特征重要性对抗攻击评估基因组学中 AI 的鲁棒性
机器学习
2024-01-22 v1 密码学与安全
基因组学
摘要
随着 AI 在生物技术应用中使用的稳步上升以及基因组测序的广泛采用，越来越多的基于 AI 的算法和工具正在进入研究和生产阶段，影响药物发现和临床结果等关键决策流程。本文展示了在公认的公共基因组学数据集上常用于下游任务的 AI 模型的脆弱性。我们通过部署一种攻击来破坏模型鲁棒性，该攻击专注于输入转换，同时模拟真实数据并混淆模型决策，最终导致模型性能显著恶化。此外，我们通过使用基于变分自编码器的模型生成中毒数据来增强我们的方法。我们的实证结果明确表明模型性能下降，表现为准确率降低以及假阳性和假阴性增加。此外，我们通过光谱分析分析了生成的对抗样本，为应对此类攻击的对策提供了结论。
引用
@article{arxiv.2401.10657,
title = {FIMBA: Evaluating the Robustness of AI in Genomics via Feature Importance Adversarial Attacks},
author = {Heorhii Skovorodnikov and Hoda Alkhzaimi},
journal= {arXiv preprint arXiv:2401.10657},
year = {2024}
}
备注
15 pages, core code available at: https://github.com/HeorhiiS/fimba-attack