评估基于 LLM 的社交机器人决策中的隐私识别能力
机器人学
2025-11-18 v3 人工智能
摘要
尽管机器人之前使用基于规则的系统或概率模型进行用户交互，但大语言模型（LLM）的快速发展为开发增强人机交互（HRI）的LLM驱动机器人提供了新机会。然而，为了充分实现这些能力，机器人需要收集音频、细粒度图像、视频和位置等数据。结果是，LLM常常在私人环境（如家中）中处理敏感个人信息。鉴于实用性与隐私风险之间的张力，评估当前LLM如何管理敏感数据至关重要。具体而言，我们旨在探讨开箱即用的LLM在家庭机器人语境下的隐私意识程度。本文提出了一套基于情境完整性（Contextual Integrity, CI）框架开发的隐私相关场景。我们首先调查了用户关于居家机器人行为的隐私偏好，并随后检查了这些偏好如何影响其对这些行为的选择（N=450）。随后，我们将相同的场景和问题提供给最先进的LLM（N=10），发现人类与LLM之间的一致性通常较低。为进一步探讨LLM作为潜在隐私控制器的能力，我们实现了四种额外的提示策略并进行比较。我们讨论了所评估模型的性能以及AI隐私意识在人机交互中的意义和潜力。
引用
@article{arxiv.2507.16124,
title = {Benchmarking LLM Privacy Recognition for Social Robot Decision Making},
author = {Dakota Sullivan and Shirley Zhang and Jennica Li and Heather Kirkorian and Bilge Mutlu and Kassem Fawaz},
journal= {arXiv preprint arXiv:2507.16124},
year = {2025}
}
备注
18 pages, 7 figures. Dakota Sullivan and Shirley Zhang contributed equally to this work