形式化人工智能中的信任：人类对 AI 信任的前提、成因与目标

信任是人与 AI 交互的核心组成部分，因为“不正确”的信任水平可能导致技术的误用、滥用或弃用。但究竟何为对 AI 信任的本质？认知信任机制的前提与目标是什么，我们又如何促进它们，或评估在给定交互中它们是否得到满足？本工作旨在回答这些问题。我们讨论一种受社会学人际信任（即人与人之间的信任）启发但不尽相同的信任模型。该模型基于用户脆弱性与可预测 AI 模型决策影响这两项关键属性。我们纳入对“契约信任”的形式化，使得用户与 AI 间的信任即为对某种隐式或显式契约成立的信任，并形式化“可信性”（其脱离社会学中的可信性概念），以及随之而来的“有根据的”与“无根据的”信任概念。我们随后给出有根据信任的可能成因：内在推理与外在行为，并讨论如何设计可信 AI、如何评估信任是否已显现及其是否有根据。最后，我们利用我们的形式化阐明信任与 XAI 间的联系。