人工智能与生物风险的现实

要准确且自信地回答'人工智能模型或系统是否可能增加生物风险'的问题，必须既需要关于人工智能模型或系统如何增加生物风险的 sound 理论威胁模型，也需要 robust 对该威胁模型进行测试的方法。本文提供了关于两种人工智能与生物风险威胁模型的现有研究分析：1)通过大型语言模型（LLM）获取信息和规划；2)使用人工智能驱动的生物工具（BTs）合成新型生物制品。我们发现，围绕人工智能相关生物风险的现有研究仍处于初步阶段，往往具有推测性，或在方法成熟度和透明度方面受限。可用文献表明，当前的LLM和BTs并不构成直接风险，需要进一步工作来发展严格的方法，以更好地理解未来模型如何增加生物风险。我们最后提供了关于如何扩展实证工作以更精确地针对生物风险并确保发现的严谨性和有效性的建议。