CodeCipher: 学习混淆源代码以对抗大语言模型
计算与语言
2024-10-10 v1
摘要
尽管大型代码语言模型在AI辅助编码任务中取得了显著进展，但隐私挑战日益受到关注。用户代码对云LLM服务提供商是透明的，这带来了未经授权训练、读取和执行用户代码的风险。在本文中，我们提出CodeCipher，一种新颖的方法，它在保留LLM原始响应的同时，对代码中的隐私进行扰动。CodeCipher变换LLM的嵌入矩阵，使得每一行对应原始矩阵中的一个不同单词，形成用于混淆源代码的令牌到令牌的混淆映射。通过最小化任务特定损失函数来优化新的嵌入矩阵。为应对词向量空间离散和稀疏的挑战，CodeCipher采用离散优化策略，在每次梯度更新前将更新后的向量与词汇表中最近的合法令牌对齐。我们在三个AI辅助编码任务（包括代码补全、摘要和翻译）上展示了我们方法的有效性。结果表明，我们的模型成功混淆了源代码中的隐私，同时保持了原始LLM的性能。
引用
@article{arxiv.2410.05797,
title = {CodeCipher: Learning to Obfuscate Source Code Against LLMs},
author = {Yalan Lin and Chengcheng Wan and Yixiong Fang and Xiaodong Gu},
journal= {arXiv preprint arXiv:2410.05797},
year = {2024}
}