下游开发者眼中的 AI 失败：对关注点、实践与挑战的首次审视
软件工程
2026-05-01 v4
摘要
随着 AI 模型的进步，越来越多的软件系统采用 AI 作为组件以促进自动化。预训练模型 (PTM) 已成为基于 AI 的软件的基石，允许以较低的训练成本进行快速集成和开发。然而，它们的采用也引入了诸如数据泄露和有偏输出等失败模式，这可能需要下游开发者谨慎处理。尽管先前的研究已经提出了这些技术关注点的分类体系和各种缓解策略，但下游开发者在重用 PTM 开发通用基于 AI 的软件时如何处理这些问题仍有待探索。了解下游开发者的观点至关重要，因为他们直接影响这些潜在的失败关注点如何转化为实践，例如确定数据泄露或模型偏差等直接风险在现实部署中是被识别、缓解还是被无意忽视。本研究调查了下游开发者在开发基于 AI 的软件期间对实际 AI 失败的关注点、实践和感知到的挑战。为了实现这一目标，我们开展了一项混合方法研究，包括对 16 名参与者的访谈以及对 86 名从业者的调查，
引用
@article{arxiv.2503.19444,
title = {AI Failures in the Eyes of the Downstream Developer: A First Look at Concerns, Practices, and Challenges},
author = {Haoyu Gao and Mansooreh Zahedi and Wenxin Jiang and Hong Yi Lin and James Davis and Christoph Treude},
journal= {arXiv preprint arXiv:2503.19444},
year = {2026}
}