中文

面向 AI 合理依赖的探索:面向软件工程的初步依赖控制框架

软件工程 2026-04-14 v1 人工智能 人机交互

摘要

软件开发者与人工智能 (AI) 驱动工具的交互方式,尤其是大型语言模型 (LLM),对这些工具的实际影响至关重要。过度依赖 AI 可能导致长期负面后果(例如认知能力退化);而过度依赖则可能剥夺软件开发者在生产力和质量方面的潜在收益。基于对 22 位使用 LLM 进行软件开发的开发者进行的访谈,我们提出了一个初步的依赖控制框架,其中可用的控制水平可用于识别 AI 的过度或不足依赖。我们还利用该框架推荐未来的研究,以进一步探索当前和新兴 LLM 驱动工具所支持的不同控制水平。我们的论文促进了关于 AI 过度依赖的新兴讨论,提供了理解合理依赖程度的见解,这对于开发者充分利用这些强大技术至关重要。我们的发现有助于实践者、教育者和政策制定者促进 AI 工具的负责任和有效使用。

关键词

引用

@article{arxiv.2604.10530,
  title  = {Towards an Appropriate Level of Reliance on AI: A Preliminary Reliance-Control Framework for AI in Software Engineering},
  author = {Samuel Ferino and Rashina Hoda and John Grundy and Christoph Treude},
  journal= {arXiv preprint arXiv:2604.10530},
  year   = {2026}
}

备注

Accepted for publication at the 2nd Workshop on Human-Centered AI for SE (HumanAISE) held at the 34th ACM International Conference on the Foundations of Software Engineering (FSE Companion '26), July 5-9, 2026, Montreal, Quebec, Canada