CoProtector：利用数据投毒保护开源代码免受未授权训练使用

Github Copilot 在数十亿行公开代码上训练，近期成为计算机科学研究与实践界的流行词。尽管其旨在借助强大智能帮助开发者实现安全有效的代码，从业者与研究人员仍对其伦理与安全问题提出担忧，例如：copyleft 许可代码是否应被自由利用，或不安全代码是否一开始就应被考虑用于训练？这些问题对 Copilot 及其他类似产品造成显著影响，后者旨在通过深度学习模型从大规模开源代码中学习知识，而随着人工智能快速发展，此类产品不可避免地增多。为缓解此类影响，我们认为有必要发明有效机制以保护开源代码不被深度学习模型利用。在此，我们设计并实现了一个原型 CoProtector，其利用数据投毒技术武装源代码仓库以防御此类利用。我们的大规模实验经验性地表明，CoProtector 能有效达成其目的，在显著降低类 Copilot 深度学习模型性能的同时，还能稳定揭示秘密嵌入的水印后门。