削弱心理证明：人工智能如何通过简化思考使合作更难
计算机与社会
2025-01-07 v2
摘要
大型语言模型和其他高能力人工智能系统减轻了决定说什么或做什么的负担，但这种便利性本身可能会削弱我们在社会环境中行动的有效性。我们通过引入“心理证明”这一综合性理论概念来解释这种明显的张力，心理证明发生在可观察的行动被用来证明不可观察的心理事实时。从招聘到约会，心理证明使人们能够在诚实难以强制执行的信任环境中，可信地向彼此传达价值观、意图、知识状态以及其他私密的心理特征。借鉴经济学、理论生物学和计算机科学的结果，我们描述了使人们能够实现心理证明的核心理论机制。对这些机制的分析阐明了人工智能何时以及如何使低信任合作变得更难，尽管它使思考变得更容易。
引用
@article{arxiv.2407.14452,
title = {Undermining Mental Proof: How AI Can Make Cooperation Harder by Making Thinking Easier},
author = {Zachary Wojtowicz and Simon DeDeo},
journal= {arXiv preprint arXiv:2407.14452},
year = {2025}
}
备注
Forthcoming at The Thirty-Ninth AAAI Conference on Artificial Intelligence (AAAI-25)