信任过程：利用零知识机器学习增强对生成式 AI 交互的信任

以 Transformer 等模型为代表的生成式 AI 在各个领域开辟了新的可能性，但也引发了关于公平性、透明度和可靠性的担忧，尤其是在医学和法律等领域。本文强调了通过生成式 AI 确保这些领域公平性和质量的紧迫性。本文探讨了利用密码学技术，特别是零知识证明，来解决关于性能公平性和准确性的担忧，同时保护模型隐私。将 ZKP 应用于机器学习模型被称为零知识机器学习，它能够在不泄露敏感模型信息的情况下对 AI 生成的内容进行独立验证，从而促进透明度和信任。ZKML 通过为模型预测提供密码学审计追踪并确保各用户间性能的一致性，增强了 AI 公平性。我们引入了 snarkGPT，这是一种针对 Transformer 的实用 ZKML 实现，旨在使用户能够在保护模型隐私的同时验证输出的准确性和质量。我们展示了一系列研究 snarkGPT 可扩展性和性能的实证结果，以评估采用 ZKML 驱动的方法来捕捉生成式 AI 模型中质量和性能公平性问题的可行性与挑战。