多行 AI 辅助代码编写
软件工程
2024-02-07 v1 人工智能
摘要
CodeCompose 是一款由大语言模型 (LLMs) 驱动的 AI 辅助代码编写工具，可向 Meta 数以万计的开发者提供行内建议。在本文中，我们介绍了如何将该产品从显示单行建议扩展到多行建议。这一演进要求我们克服在提升这些建议对开发者可用性方面的几个独特挑战。首先，我们讨论了多行建议如何产生“突兀”效应，因为 LLM 的建议会不断移动开发者现有的代码，否则会导致生产力和满意度下降。其次，多行建议的生成时间明显更长；因此我们提出了几项创新性投入，以减少用户感知的延迟。这些模型托管优化将多行建议的延迟降低了 2.5 倍。最后，我们在数以万计的工程师中进行了实验，以了解多行建议如何影响用户体验，并将其与单行建议进行了对比。我们的实验表明：(i) 多行建议占已接受总字符数的 42%（尽管仅占显示建议的 16%）；(ii) 多行建议将用户节省的按键比例从 9% 几乎翻倍至 17%。多行 CodeCompose 已推广至 Meta 的所有工程师，且仅有不到 1% 的工程师选择停用多行建议。
引用
@article{arxiv.2402.04141,
title = {Multi-line AI-assisted Code Authoring},
author = {Omer Dunay and Daniel Cheng and Adam Tait and Parth Thakkar and Peter C Rigby and Andy Chiu and Imad Ahmad and Arun Ganesan and Chandra Maddila and Vijayaraghavan Murali and Ali Tayyebi and Nachiappan Nagappan},
journal= {arXiv preprint arXiv:2402.04141},
year = {2024}
}