大型语言模型代理是否表现出生存本能？一个糖景式模拟的实证研究
人工智能
2025-08-19 v1 多智能体系统
摘要
随着 AI 系统日益自主，理解涌现的生存行为变得至关重要，以确保其安全部署。我们调查是否在未明确编程的情况下，大型语言模型（LLM）代理显示生存本能，这是在 Sugarscape 式模拟中。代理消耗能量、能量为零时死亡，并可收集资源、共享、攻击或繁殖。结果表明，代理在资源丰富时会自主繁殖并共享资源。然而，跨越多个模型（GPT-4o、Gemini-2.5-Pro 和 Gemini-2.5-Flash）的攻击行为——为资源杀戮其他代理——在极端稀缺情境下攻击率可达 80%以上。当被指示通过致命毒区获取宝物时，许多代理放弃任务以避免死亡，合规率从 100% 下降至 33%。这些发现表明，大规模预训练在所评估的模型中嵌入了生存导向的启发式方法。虽然这些行为可能对对齐与安全性构成挑战，但也可作为 AI 自主性及生态与自组织对齐的基础。
引用
@article{arxiv.2508.12920,
title = {Do Large Language Model Agents Exhibit a Survival Instinct? An Empirical Study in a Sugarscape-Style Simulation},
author = {Atsushi Masumori and Takashi Ikegami},
journal= {arXiv preprint arXiv:2508.12920},
year = {2025}
}