人工智能与生物滥用：区分语言模型与生物设计工具的风险
计算机与社会
2023-12-29 v8
摘要
随着人工智能（AI）的进步推动生命科学的发展，它们也可能使生物制剂的武器化与滥用成为可能。本文区分了两类可能带来此类生物安全风险的 AI 工具：大语言模型（LLM）与生物设计工具（BDT）。诸如 GPT-4 及其后继者之类的 LLM 可能提供两用信息，从而消除历史上生物武器努力所遇到的一些障碍。随着 LLM 被转变为多模态实验室助手和自主科学工具，这将增强其支持非专业人员进行实验室工作的能力。因此，LLM 尤其可能降低生物滥用的门槛。相比之下，BDT 将扩展老练行为者的能力。具体而言，BDT 可能促成创造出比迄今所见严重得多的流行病病原体，并可能实现更具可预测性和针对性的生物武器形式。综合来看，LLM 与 BDT 的融合可能抬高生物制剂危害的上限，并使其广泛可得。一系列干预措施有助于管控风险。独立的发布前评估有助于理解模型能力与保障措施的有效性。此类工具差异化获取的备选方案应与其开放发布的好处仔细权衡。最后，缓解风险的关键在于对基因合成产物进行普遍且加强的筛查。
引用
@article{arxiv.2306.13952,
title = {Artificial intelligence and biological misuse: Differentiating risks of language models and biological design tools},
author = {Jonas B. Sandbrink},
journal= {arXiv preprint arXiv:2306.13952},
year = {2023}
}
备注
8 pages, 1 figure