质量证明:区块链上无信任生成式AI模型推理的无成本范式
人工智能
2024-05-31 v2
摘要
生成式AI模型(如GPT-4和Stable Diffusion)在自然语言和图像任务中展现出强大且颠覆性的能力。然而,在去中心化环境中部署这些模型仍具有挑战性。不同于传统的中心化部署,系统性地保证在完全去中心化环境(特别是信任区块链)中AI模型服务的完整性既至关重要又难以实现。本文提出一种新型推理范式,称为质量证明(Proof of Quality, PoQ),以在区块链架构上部署任意大小的生成式模型。不同于基于验证推理程序(如ZKML或OPML)的传统方法,PoQ范式关注模型推理结果的质量。我们采用轻量级BERT基准的交叉编码器作为质量评估模型的底层机制,设计并实现了第一个面向实际NLP生成式模型推理的协议——PQML,针对流行开源模型(如Llama 3和Mixtral)进行优化。我们的分析表明,该协议对来自生态系统中具有挑战但理性参与者具有鲁棒性,其中懒惰或不诚实的行为会导致获得的收益少于良好行为的参与者。质量评估的计算开销最小,即使仅使用CPU也能在一秒内完成质量检查。初步模拟结果显示,PoQ共识在毫秒级生成,速度是任何现有方案的1000倍。
引用
@article{arxiv.2405.17934,
title = {Proof of Quality: A Costless Paradigm for Trustless Generative AI Model Inference on Blockchains},
author = {Zhenjie Zhang and Yuyang Rao and Hao Xiao and Xiaokui Xiao and Yin Yang},
journal= {arXiv preprint arXiv:2405.17934},
year = {2024}
}
备注
12 pages, 5 figures