生物科学中的生成式 AI：新兴威胁与生物安全路线图
密码学与安全
2025-11-05 v2 生物大分子
摘要
生成式人工智能（GenAI）在生物科学领域的快速采纳正在改变生物技术、医学和合成生物学。然而，这一进步本质上与新的漏洞相关联，因为 GenAI 降低了滥用的门槛，并引入了新的生物安全威胁，例如生成合成病毒蛋白或毒素。这些双用途风险往往被忽视，因为现有的安全防护措施脆弱且可通过欺骗性提示或越狱技术被规避。本篇视角稿首先概述了 GenAI 在生物科学中的当前局面，以及从越狱攻击、隐私风险到由自主 AI 代理所引发的双用途挑战等新兴威胁向量。我们 then 检视了监管和监督的紧迫缺口，深入分析了来自 130 位专家（涵盖学术、政府、行业和政策领域）的见解。绝大多数（约 76%）对 AI 在生物领域的滥用表示关切，74% 呼吁发展新的治理框架。最后，我们探讨了技术层面的缓解措施，主张采用多层次的方法来提升 GenAI 的安全性。这些防御包括严格的数据过滤、在开发过程中遵循伦理原则，以及实时监控以阻止有害请求。总体而言，这些策略为在 GenAI 生命周期中嵌入安全性提供了蓝图。随着 GenAI 被集成到生物科学中，保护这一前沿领域需要立即承诺采用灵活的治理和安全设计技术。
关键词
引用
@article{arxiv.2510.15975,
title = {Generative AI for Biosciences: Emerging Threats and Roadmap to Biosecurity},
author = {Zaixi Zhang and Souradip Chakraborty and Amrit Singh Bedi and Emilin Mathew and Varsha Saravanan and Le Cong and Alvaro Velasquez and Sheng Lin-Gibson and Megan Blewett and Dan Hendrycs and Alex John London and Ellen Zhong and Ben Raphael and Adji Bousso Dieng and Jian Ma and Eric Xing and Russ Altman and George Church and Mengdi Wang},
journal= {arXiv preprint arXiv:2510.15975},
year = {2025}
}