检验 AI 隐私遮蔽解释在 AI 中介互动中的影响

AI 中介的交互正在被广泛用于帮助促进交互;然而在隐私敏感领域,AI 中介面临着额外的挑战,即如何保留隐私。在此类情境中,中介可能会遮蔽或保留信息,引发关于用户如何感知这些干预以及解释系统行为是否能提高信任的问题。本文调查了遮蔽操作的解释如何影响 AI 中介交互中的用户信任。我们构建了一个场景,其中经过验证的系统从消息中删除敏感内容,并生成不同细节水平的解释,以向收件人传达其决策。随后,我们进行了 180 名参与者的用户研究,研究不同程度的遮蔽内容和解释细节水平对用户信任和偏好的影响。我们的结果表明,当提供解释时,参与者认为该系统在保留隐私方面更有效($p<0.05$, Cohen's $d \approx 0.3$)。我们也发现,情境因素有影响;当系统进行大量遮蔽时,参与者更依赖解释并认为其更有用($p<0.05$, Cohen's $f \approx 0.2$)。我们还发现,解释偏好取决于个体差异,诸如年龄和对 AI 的基础熟悉程度会影响我们系统的用户信任。这些发现凸显了在 AI 中介通信中平衡透明度和隐私的重要性与挑战,并表明自适应、情境感知的解释对于设计隐私友好、可信赖的 AI 系统至关重要。