SLIP:使用权重分解保护 LLM 知识产权
密码学与安全
2025-11-04 v3 机器学习
机器学习
摘要
大型语言模型(LLMs)最近在学术界和产业界获得了广泛采用。随着这些模型的不断增长,它们成为拥有者投入巨资的知识产权(IP)。云端部署的高成本促使了在边缘设备上运行模型的兴趣,但这会风险将参数暴露给盗窃和未授权使用。现有的面向边缘部署的模型 IP 保护方法在实用性、准确性或部署要求之间进行权衡。我们引入 SLIP,一种 designed to protect edge-deployed models from theft 的混合推理算法。SLIP 是我们所知的第一种既实用于实际应用又是可 provable 安全的混合协议,同时实现零准确率退化并产生最小的延迟开销。它将模型在两个计算资源之间划分:一个安全但昂贵,一个具有成本效益但脆弱。通过矩阵分解,secure resource 保留模型最敏感的 IP 部分,只执行少量计算;vulnerable resource 执行其余部分。该协议包括安全保证,防止攻击者通过分区推断受保护信息。最后,我们呈现了实验结果,表明该方法的稳健性和有效性,使其成为保护 LLM 的引人注目的解决方案。
引用
@article{arxiv.2407.10886,
title = {SLIP: Securing LLMs IP Using Weights Decomposition},
author = {Yehonathan Refael and Adam Hakim and Lev Greenberg and Satya Lokam and Tal Aviv and Ben Fishman and Shachar Seidman and Racchit Jain and Jay Tenenbaum},
journal= {arXiv preprint arXiv:2407.10886},
year = {2025}
}