论 AI 软件开发助手信任的必要性：一次批判性综述

信任是人类决策和合作中至关重要的概念, 长期以来在哲学和心理学中受到研究。然而, 软件工程(SE) 文章常以非正式方式使用该术语; 提供明确定义或嵌入既有信任模型的做法较为罕见。在 SE 关于 AI 助手的研究中, 这一做法最终将信任等同于接受生成内容的概率, 而这种等价性在孤立情况下并未捕捉信任概念的完整复杂性。没有共同的定义, 对信任的真正二级研究是不可能的。我们的研究目标包括: (1) 提出人类信任的心理和哲学基础; (2) 系统性研究 SE 及相关学科人机交互和信息系统中信任的概念化方式; (3) 讨论将信任等同于内容接受的局限性, 说明 SE 如何能够采纳既有信任模型来克服广泛使用的信任术语的非正式化问题。我们进行了跨学科的文献综述以及对近期 SE 文章的批判性综述, 专注于信任的概念化。我们发现 SE 文章中很少对信任进行定义或概念化。相关学科通常在既有信任模型中嵌入其方法和结果, 明确区分例如初始信任和信任形成以及合适和不合适的信任。在元科学层面上, 其他学科甚至讨论信任能否应用于 AI 助手以及何时可以应用。我们的研究揭示了 SE 信任研究成熟度在其他学科方面的显著不足。我们提供了具体建议, 说明 SE 研究人员如何采纳既有信任模型和工具来研究 AI 助手中的信任, 超越对生成软件制品接受度的关注。