面向生物安全的 AI：基于 SAGE 框架对 ESM 类变体预测器软提示攻击的代理风险审计
密码学与安全
2025-12-22 v1 机器学习
定量方法
摘要
基因组基础模型（GFMs），如演化规模建模（ESM），在变体效应预测方面展现出显著成功。然而，这些模型在对抗操控下的安全性和鲁棒性仍基本未被探索。为填补这一空白，我们引入了 Secure Agentic Genomic Evaluator（SAGE），一个用于审计 GFMs 对抗性漏洞的代理框架。SAGE 通过可解释且自动化的风险审计循环工作：注入软提示扰动，监控模型在训练检查点中的行为，计算如 AUROC 和 AUPR 等风险指标，并生成基于大语言模型的叙述性报告。这种代理过程 enables 在不修改底层模型的前提下持续评估嵌入空间的鲁棒性。使用 SAGE，我们发现即使是最先进的 GFMs 如 ESM2 对针对性软提示攻击也十分敏感，导致可衡量的性能下降。这些发现揭示了基因组基础模型存在关键且此前被隐藏的漏洞，凸显了在保障临床变体解释等生物医学应用中代理风险审计的重要性。
引用
@article{arxiv.2512.17146,
title = {Biosecurity-Aware AI: Agentic Risk Auditing of Soft Prompt Attacks on ESM-Based Variant Predictors},
author = {Huixin Zhan},
journal= {arXiv preprint arXiv:2512.17146},
year = {2025}
}