GenoArmory：面向基因组基础模型的对抗攻击统一评估框架
机器学习
2025-10-14 v2 人工智能
密码学与安全
摘要
我们提出了首个面向基因组基础模型（GFMs）的统一对抗攻击基准测试，命名为 GenoArmory。不同于现有 GFMs 基准测试，GenoArmory 提供了首个全面评估框架，系统性地评估 GFMs 受对抗攻击的脆弱性。方法上，我们使用四种广泛采用的攻击算法和三种防御策略，对评估了五种最先进的 GFMs。重要的是，我们的基准提供了一个可访问且全面的框架，用于分析 GFMs 在模型架构、量化方案以及训练数据集方面的脆弱性。此外，我们引入了 GenoAdv，这是一个新的对抗样本数据集，旨在提高 GFMs 的安全性。经验上，分类模型对对抗扰动的鲁棒性优于生成模型，这突显了任务类型对模型脆弱性的影响。此外，对抗攻击经常针对生物学上重要的基因组区域，这表明这些模型有效地捕捉了有意义的序列特征。
引用
@article{arxiv.2505.10983,
title = {GenoArmory: A Unified Evaluation Framework for Adversarial Attacks on Genomic Foundation Models},
author = {Haozheng Luo and Chenghao Qiu and Yimin Wang and Shang Wu and Jiahao Yu and Zhenyu Pan and Weian Mao and Haoyang Fang and Hao Xu and Han Liu and Binghui Wang and Yan Chen},
journal= {arXiv preprint arXiv:2505.10983},
year = {2025}
}