人类-人工智能交互语境下的罗杰斯悖论

人类通过多种方式了解世界以及如何在世界中行动：包括亲自进行实验和观察他人行为后进行模仿。不同的学习策略伴随不同的成本和成功学习更多世界知识的可能性。任何单个个体所选择的学习方式都会影响整个群体如果人们从彼此学习的话的整体理解。阿兰·罗杰斯 (Alan Rogers) 构建了一群智能体的模拟模型，以研究这些网络现象：智能体可在动态、不确定的世界中进行个人学习或社会学习，并发现了一个令人困惑的结果：即便拥有廉价的社会学习，仍然不会提高整个群体的适应度相对于个人学习。这个悖论引发了数十年的研究，旨在理解和阐明促进社会学习相对获益的因素，尽管数百年的人类行为表明社会学习确实具有优势。当人类能够从人工智能系统中进行社会学习，而这些人工智能系统本身也在从我们身上学习时，发生了什么？我们在人类-人工智能交互语境中重访罗杰斯悖论，以探讨人类和人工智能系统一起关于不确定世界学习的简化网络。我们提出并检验了若干学习策略对社会 "集体世界模型" 质量的影响。我们考虑了涉及单次人类-人工智能交互中各方（包括人类、人工智能模型构建者以及围绕该交互的社会或监管机构）可采取的策略。随后，我们考察了由人类从人工智能系统中进行社会学习可能引发的负面反馈回路：即从人工智能系统中学习可能影响我们自身的世界学习能力。我们以开放的研究方向结束，探讨如何构建包含人类和人工智能系统的网络，这些系统可在我们所提出的模拟框架中进行丰富的扩展研究。