是否要信任：机器学习的信念飞跃

人类信任是可信赖 AI 采纳的前提，但信任仍然理解不足。信任常被描述为态度，但态度无法被可靠地测量或管理。此外，人类常常混淆对 AI 系统、其机器学习（ML）技术以及其他组件部分的信任。在完全理解信任 ML 所涉及的“飞跃”之前，用户无法在这些系统上建立内在信任。常见的建立信任方法是解释 ML 模型的推理过程。然而，这些解释常常因 ML 系统的复杂性而难以引起非专家的共鸣，并且与用户自身（未明确表达的）心理模型相脱节。本工作提出了一种创新的方式，通过辨识和测量用户决定依赖 ML 所采取的飞跃（Leap of Faith, LoF）来直接建立对 ML 的内在信任。LoF 矩阵捕捉 ML 模型与人类专家心理模型之间的对齐程度。通过将用户的数据和目标函数输入到 ML 智能体和经专家验证的基于规则的智能体中来严格且实际地识别此匹配度：这是一个可先验测试用户自身心理模型的已验证参考点。这代表一种新的类神经符号架构。LoF 矩阵向用户揭示构成基于规则智能体和 ML 智能体之间飞跃信念的距离。首次，我们提出衡量信任指标的方案，以评估用户是否通过其行动表现出信任而非自我报告的意图，以及这种信任是否基于结果是合理的。其贡献意义在于支持可信赖 ML 采纳的实证评估和管理。该方法通过一个长期高风险的现场研究进行说明：一个 3 个月的多智能体睡眠改善系统的试点。