不应开发完全自主的AI智能体
人工智能
2025-10-21 v3
摘要
本文论证了不应开发完全自主的AI智能体。为了支持这一立场，我们基于先前的科学文献和当前的产品营销，界定了不同的AI智能体级别，并详细阐述了每个级别中涉及的伦理价值，记录了潜在收益与风险之间的权衡。我们的分析揭示，风险随着系统的自主性增加而增加：用户让渡给AI智能体的控制权越多，对人们产生的风险就越大。尤其令人担忧的是安全风险，这些风险影响人类生命并波及更多价值。
引用
@article{arxiv.2502.02649,
title = {Fully Autonomous AI Agents Should Not be Developed},
author = {Margaret Mitchell and Avijit Ghosh and Alexandra Sasha Luccioni and Giada Pistilli},
journal= {arXiv preprint arXiv:2502.02649},
year = {2025}
}