安全多方生成式 AI

随着生成式 AI 工具的使用量激增，暴露给这些模型和中心化模型提供商的敏感信息数量令人担忧。例如，三星的机密源代码由于输入到 ChatGPT 的文本提示遭遇数据泄露而遭到泄露。由于数据泄露或机密性问题，越来越多的公司正在限制 LLM 的使用（Apple、Verizon、JPMorgan Chase 等）。同时，越来越多的中心化生成模型提供商正在限制、过滤、对齐或审查可使用的内容。Midjourney 和 RunwayML 这两个主要的图像生成平台通过提示词过滤限制对其系统的提示。某些政治人物被限制生成图像，与女性医疗保健、权利和堕胎相关的词汇也受到限制。在我们的研究中，我们提出了一种安全且私密的生成式人工智能方法，该方法不会将敏感数据或模型暴露给第三方 AI 提供商。我们的工作修改了现代生成式 AI 算法的关键构建块（例如 Transformer），并在去中心化网络中引入了机密且可验证的多方计算，以保持 1) 用户输入的隐私和对模型输出的混淆，以及 2) 为模型本身引入隐私。此外，分片过程减少了任何一个节点的计算负担，使得大型生成式 AI 过程的资源能够分布在多个较小的节点上。我们证明，只要去中心化计算中存在一个诚实节点，就能保持安全性。我们还证明，只要计算中的大多数节点成功，推理过程仍将成功。因此，我们的方法在去中心化网络中提供了安全且可验证的计算。