AI驱动产品开发的风险及其缓解策略
计算机与社会
2025-06-03 v1 人工智能
计算工程、金融与科学
摘要
人类正在向自动化产品开发迈进，这一趋势有望更快地创造出更好的产品，从而加速技术进步。然而，在这一过程中日益依赖非人类代理引入了许多风险。本观点旨在引发对这些风险及适当缓解策略的讨论。为此，我们概述了一套更安全的AI驱动产品开发原则，强调人类监督、问责制和可解释设计等。风险评估涵盖了影响产品质量和安全的技术风险，以及影响社会的社会技术风险。尽管AI驱动的产品开发仍处于早期阶段，但这一讨论将有助于在理解、规范制定和监管方面不延迟基本进展的情况下，平衡其机遇与风险。
引用
@article{arxiv.2506.00047,
title = {Risks of AI-driven product development and strategies for their mitigation},
author = {Jan Göpfert and Jann M. Weinand and Patrick Kuckertz and Noah Pflugradt and Jochen Linßen},
journal= {arXiv preprint arXiv:2506.00047},
year = {2025}
}