软件工程中的问责智能体：服务条款分析与研究路线图

AI 编程助手和自主智能体正成为软件开发工作流不可或缺的组成部分，重塑了代码的生成、审查和维护方式。尽管近期研究主要关注这些系统的能力及其对生产力的影响，但问责制却鲜少受到关注：当智能体生成、修改或推荐代码时，谁来负责？在实践中，问责制是通过服务条款（ToS）及相关政策文件来界定的，这些文件规定了 AI 驱动的开发工具的使用。在这篇愿景论文中，我们对广泛使用的 AI 编程助手和支持智能体的开发工具的服务条款进行了比较分析。我们审查了这些文件如何在工具提供商与软件开发者之间分配所有权、责任、赔偿义务和披露义务，并识别出提供商之间的共同模式与差异。我们的分析揭示了一个一致的趋势，即将正确性、安全性和法律合规性的责任推给用户，且在赔偿、数据重用和可接受使用等问题的处理上，各提供商之间存在显著差异。基于这些发现，我们认为现有的政策框架与日益由智能体介导和自主的软件开发工作流严重脱节。我们概述了软件工程中问责智能体的研究路线图，指出了在责任建模、设计治理工件、开发支持问责的工具，以及开展关于开发者认知与实践的实证研究方面的挑战与机遇。