BasedAI:面向零知识大语言模型(ZK-LLMs)的去中心化P2P网络
密码学与安全
2024-03-05 v1 信息检索
摘要
BasedAI是一个由机器组成的分布式网络,它引入了去中心化基础设施,能够将全同态加密(FHE)与连接到其网络的任何大语言模型(LLM)相集成。所提出的框架在挖矿过程中嵌入了一种名为“Cerberus Squeezing”的默认机制,该机制利用生成对抗网络在数据隐私方面的见解,将标准LLM转换为加密的零知识LLM,即“ZK-LLM”。这种新颖的量化机制使BasedAI矿工能够处理并响应用户与LLM交互产生的提示,而无需解密查询或其相应的响应。通过主动优化用户、矿工和验证者之间的调用,Cerberus Squeezing的引入显著改善了当前FHE兼容计算环境中由量化函数引起的性能下降。
引用
@article{arxiv.2403.01008,
title = {BasedAI: A decentralized P2P network for Zero Knowledge Large Language Models (ZK-LLMs)},
author = {Sean Wellington},
journal= {arXiv preprint arXiv:2403.01008},
year = {2024}
}