VisAlign：用于度量人工智能与人类在视觉感知中对齐程度的数据集
计算机视觉与模式识别
2023-10-23 v3
摘要
AI 对齐指模型朝向人类预期目标、偏好或伦理原则行事。鉴于大多数大规模深度学习模型作为黑箱运作且无法手动控制，分析模型与人类之间的相似性可作为确保 AI 安全的代理度量。本文关注模型与人类在视觉感知上的对齐，进一步称为 AI-人类视觉对齐。具体地，我们提出一个用于从图像分类（机器感知中的基础任务）角度度量 AI-人类视觉对齐的新数据集。为评估 AI-人类视觉对齐，数据集应涵盖真实世界可能出现的多种场景样本，并具备人工感知金标签。我们的数据集基于图像中视觉信息的数量与清晰度分为三组样本，即 Must-Act（即 Must-Classify）、Must-Abstain 与 Uncertain，并进一步划分为八类。所有样本均有人工感知金标签；即便 Uncertain（严重模糊）样本标签也通过众包获得。我们数据集的有效性由抽样理论、与调查设计相关的统计理论及相关领域专家验证。利用我们的数据集，我们分析了五种流行视觉感知模型与七种弃权方法的可视对齐性与可靠性。我们的代码与数据见 https://github.com/jiyounglee-0523/VisAlign。
引用
@article{arxiv.2308.01525,
title = {VisAlign: Dataset for Measuring the Degree of Alignment between AI and Humans in Visual Perception},
author = {Jiyoung Lee and Seungho Kim and Seunghyun Won and Joonseok Lee and Marzyeh Ghassemi and James Thorne and Jaeseok Choi and O-Kil Kwon and Edward Choi},
journal= {arXiv preprint arXiv:2308.01525},
year = {2023}
}
备注
Published as a conference paper at NeurIPS 2023 (Track on Datasets and Benchmarks)