SafeGenes：评估基因组基础模型的对抗鲁棒性
密码学与安全
2025-12-04 v2 人工智能
摘要
基因组基础模型，如进化尺度建模，在变异效应预测中取得了显著成功。然而，其对抗鲁棒性在很大程度上仍未被探索。为弥补这一空白，我们提出 SafeGenes：一个基因组基础模型安全分析框架，利用对抗攻击评估其对工程化近似相同对抗基因和嵌入空间操作的鲁棒性。在本研究中，我们使用两种方法评估 GFM 的对抗脆弱性：快速梯度符号法和软提示攻击。FGSM 对输入序列引入最小扰动，而软提示攻击通过优化连续嵌入来操纵模型预测，且无需修改输入 token。通过结合这些技术，SafeGenes 对 GFM 易受对抗操纵的程度提供了全面评估。针对性的软提示攻击在基于 MLM 的浅层架构（如 ProteinBERT）中引发了严重退化，而在 ESM1b 和 ESM1v 等大容量基础模型中仍产生了显著的失效模式。这些发现揭示了当前基础模型的关键脆弱性，为提升其在变异效应预测等高风险基因组应用中的安全性和鲁棒性开辟了新的研究方向。
引用
@article{arxiv.2506.00821,
title = {SafeGenes: Evaluating the Adversarial Robustness of Genomic Foundation Models},
author = {Huixin Zhan and Clovis Barbour and Jason H. Moore},
journal= {arXiv preprint arXiv:2506.00821},
year = {2025}
}