多模态大型语言模型在人类价值对齐方面的评估
计算机视觉与模式识别
2024-03-27 v1
摘要
大型语言模型（LLMs）旨在作为符合人类价值观的通用助手，即遵循有帮助性、诚实性和无害性（hhh）原则。然而，尽管多模态大型语言模型（MLLMs）在感知和推理任务中表现出色，但其与人类价值观的对齐仍鲜有探讨，这源于在视觉世界中定义 hhh 维度的复杂性以及收集能真实反映实际情境的相关数据的困难。为此，我们引入 Ch3Ef，即用于评估人类期望对齐的 Compreh3ensive Evaluation 数据集和策略。Ch3Ef 数据集包含 1002 份人工标注数据样本，覆盖 12 个领域和 46 项任务。我们还提出了一种统一的评估策略，支持在各种情境和不同视角下的评估。基于评估结果，我们概括了超过 10 项关键发现，深化了对 MLLM 能力、局限性以及评估层级之间动态关系的理解，为该领域的未来发展指明了方向。
引用
@article{arxiv.2403.17830,
title = {Assessment of Multimodal Large Language Models in Alignment with Human Values},
author = {Zhelun Shi and Zhipin Wang and Hongxing Fan and Zaibin Zhang and Lijun Li and Yongting Zhang and Zhenfei Yin and Lu Sheng and Yu Qiao and Jing Shao},
journal= {arXiv preprint arXiv:2403.17830},
year = {2024}
}
备注
arXiv admin note: text overlap with arXiv:2311.02692