来自黑猩猩的教训：AI“阴谋”与对猿类语言的探索
人工智能
2025-07-08 v1
摘要
我们审视了近期关于当前AI系统是否可能正在发展“阴谋”（即隐蔽且策略性地追求不一致目标）能力的研究。我们将该领域的当前研究实践与20世纪70年代用于测试非人灵长类动物能否掌握自然语言的研究实践进行了比较。我们认为，可以从那项历史研究工作中吸取教训，该研究的特点是过度将人类特征归因于其他智能体、过度依赖轶事和描述性分析，以及未能为研究构建一个强有力的理论框架。我们建议，对AI阴谋的研究应积极避免这些陷阱。我们概述了一些具体步骤，以使该研究项目能够以富有成效且科学严谨的方式推进。
引用
@article{arxiv.2507.03409,
title = {Lessons from a Chimp: AI "Scheming" and the Quest for Ape Language},
author = {Christopher Summerfield and Lennart Luettgau and Magda Dubois and Hannah Rose Kirk and Kobi Hackenburg and Catherine Fist and Katarina Slama and Nicola Ding and Rebecca Anselmetti and Andrew Strait and Mario Giulianelli and Cozmin Ududec},
journal= {arXiv preprint arXiv:2507.03409},
year = {2025}
}