映射信任领域：LLMs 在软件工程中的信任——见解与视角
软件工程
2025-10-07 v2 人工智能
摘要
大型语言模型 (LLMs) 在行业和学术界正在快速增长地被应用于各种软件工程 (SE) 任务。随着这些模型越来越关键地融入关键流程，确保其可靠性和可信度变得至关重要。因此，信任的概念正在变得越来越关键。经过充分校准的信任至关重要，因为过度信任可能导致安全漏洞和风险，而不足的信任则可能阻碍创新。然而，LLMs 在 SE 中的信任相关概念的格局相对不清晰，诸如信任、不信任和可信度等概念在 SE 社区中缺乏明确的概念化。为澄清当前研究状态并识别未来工作机会，我们进行了对 88 篇论文的全面综述：针对 LLMs 在 SE 中的 18 篇论文的系统文献综述，补充对 70 篇更广泛信任文献的分析。此外，我们对 25 名领域专家进行了调查研究，以获得从业人员对信任理解的见解，并识别现有文献与开发人员感知之间的差距。我们的分析结果作为一份路线图，涵盖了 LLMs 在 SE 中的信任相关概念，并突显了未来探索的领域。
引用
@article{arxiv.2503.13793,
title = {Mapping the Trust Terrain: LLMs in Software Engineering -- Insights and Perspectives},
author = {Dipin Khati and Yijin Liu and David N. Palacio and Yixuan Zhang and Denys Poshyvanyk},
journal= {arXiv preprint arXiv:2503.13793},
year = {2025}
}
备注
Accepted to appear in IEEE Transactions on Software Engineering