Sniff AI：我的"Spicy"是否就是你的"Spicy"？探索LLM对人类嗅觉体验的感知对齐
计算与语言
2024-11-12 v1 人机交互
摘要
将AI与人类意图对齐是重要的，但感知对齐——即AI如何解释我们所看、所听或所闻——仍未被充分探索。本工作聚焦于嗅觉，即人类的气味体验。我们对40名参与者进行了用户研究，调查AI在多大程度上能够理解人类对气味的描述。参与者执行"嗅闻与描述"交互任务，我们设计的AI系统尝试根据参与者的描述猜测他们正在体验的气味。这些任务评估了大语言模型（LLMs）对气味关系的语境理解及其内部状态中的表示——高维嵌入空间。使用了定性和定量方法来评估AI系统的性能。结果表明感知对齐有限，存在对某些气味（如柠檬和薄荷）的偏见，并且持续无法识别其他气味（如迷迭香）。我们在人机对齐进展的背景下讨论这些发现，强调了在多感官体验集成方面增强HCI系统的局限性和机遇。
引用
@article{arxiv.2411.06950,
title = {Sniff AI: Is My 'Spicy' Your 'Spicy'? Exploring LLM's Perceptual Alignment with Human Smell Experiences},
author = {Shu Zhong and Zetao Zhou and Christopher Dawes and Giada Brianz and Marianna Obrist},
journal= {arXiv preprint arXiv:2411.06950},
year = {2024}
}