分歧的维度:认知科学与人工智能中分歧与错位的解析
神经元与认知
2023-10-23 v1 人工智能
摘要
人工智能体的日益普及相应地增加了管理人与人工智能体之间以及人工智能体彼此之间分歧的需求。考虑到这一更广阔的潜在智能体空间,我们获得了一个深化理解分歧本质的机会:心理学既往研究常将分歧视为两个智能体对同一对象形成相异评价,但分歧也可能源于智能体表征该对象的方式差异。关于人机对齐的AI研究以及计算认知科学近期工作聚焦于后一种分歧,并开发了可用于量化智能体间表征重叠程度的工具。理解分歧与错位如何交互产生分歧,以及解决策略如何依赖于该交互,是促进异质智能体间有效协作的关键。
引用
@article{arxiv.2310.12994,
title = {Dimensions of Disagreement: Unpacking Divergence and Misalignment in Cognitive Science and Artificial Intelligence},
author = {Kerem Oktar and Ilia Sucholutsky and Tania Lombrozo and Thomas L. Griffiths},
journal= {arXiv preprint arXiv:2310.12994},
year = {2023}
}
备注
Currently under review