伦理之“码”：对 AI 代码生成器的整体性审计
密码学与安全
2023-05-23 v1
摘要
AI 赋能的编程语言生成（PLG）模型因能以简明程序描述在数秒内生成程序源代码而备受关注。尽管性能卓越，其开发与部署的潜在风险引发诸多担忧，例如训练使用受许可代码所致版权侵权法律问题，以及模型不受监管使用带来的恶意后果。本文呈现首项从模型开发与部署双视角系统考察 PLG 模型问责性的研究。我们尤其开发一整体性框架，不仅审计 PLG 模型的训练数据使用，还识别 PLG 模型生成的神经代码并确定其对源模型的归属。为此，我们提出使用成员推断审计代码段是否位于 PLG 模型训练数据中。此外，提出一种基于学习的方法以区分人写代码与神经代码。在神经代码归属方面，通过实证与理论分析，我们表明将单段代码生成可靠归因为某一模型是不可能的。继而提出两种可行替代方法：其一将一段神经代码归属于候选 PLG 模型之一，其二是验证一组神经代码段能否归属于给定 PLG 模型。所提框架透彻审视了 PLG 模型的问责性，并经大量实验验证。我们也将框架实现封装为名为 CodeForensic 的新工具，以推动进一步研究。
引用
@article{arxiv.2305.12747,
title = {The "code'' of Ethics:A Holistic Audit of AI Code Generators},
author = {Wanlun Ma and Yiliao Song and Minhui Xue and Sheng Wen and Yang Xiang},
journal= {arXiv preprint arXiv:2305.12747},
year = {2023}
}