基于区块链的大规模模型可靠推理与训练平台
分布式、并行与集群计算
2023-05-09 v1 人工智能
摘要
随着人工智能(AI)持续渗透各个领域，人们对AI驱动推理与训练过程中信任与透明度的担忧浮现，尤其在潜在偏差与可追溯性挑战方面。诸如区块链等去中心化方案已被提出以应对这些问题，但它们在处理大规模模型时往往力不从心，导致推理耗时且训练验证低效。为克服这些局限，我们引入BRAIN，即基于区块链的可靠AI网络(Blockchain-based Reliable AI Network)，一个专为保障大模型可靠推理与训练而设计的新型平台。BRAIN利用独特的两阶段交易机制，通过分离请求与响应交易实现基于流水线的实时处理。每个随机选出的推理委员会提交并揭示推理结果，并通过智能合约达成一致后，使用共识结果执行所请求的操作。此外，BRAIN通过随机选出的训练委员会开展训练。他们提交提交与揭示交易及其各自分数，使得基于分数中位值进行本地模型聚合成为可能。实验结果表明，BRAIN以合理的gas费用实现了显著更高的推理吞吐率。具体而言，BRAIN的每秒任务性能是朴素单阶段实现的454.4293倍。
引用
@article{arxiv.2305.04062,
title = {A Blockchain-based Platform for Reliable Inference and Training of Large-Scale Models},
author = {Sanghyeon Park and Junmo Lee and Soo-Mook Moon},
journal= {arXiv preprint arXiv:2305.04062},
year = {2023}
}
备注
12 pages, 2 figures