大语言模型供应链信任动态的实证探索
人机交互
2024-05-28 v1 人工智能
摘要
随着 AI 系统的广泛普及，AI 信任已成为一个重要且紧迫的议题。目前的研究主要采用片面的视角，仅考虑有限数量的信任方（如终端用户）和信任对象（即 AI 系统），且实证研究局限于实验室环境，可能忽略影响人类与 AI 关系的实际因素。本文主张通过考虑 AI 系统所衍生的复杂动态供应链，拓宽解决 `AI 信任' 的研究范围。AI 供应链涉及多种技术性 artifacts，以及来自不同个人、组织和利益相关者的多样化互动方式。我们报告了对大语言模型供应链进行原位实证研究的见解。我们的工作揭示了额外的信任方和信任对象类型，以及新型影响其信任关系的因素。这些关系被发现是大语言模型开发与采纳的核心因素，但也可能成为对不可信赖大语言模型进行不校准信任与依赖的场域。基于这些发现，我们讨论了对 `AI 信任' 研究的影响，突出跨供应链中不同行为者关系的合适研究机会与挑战，以及培养校准信任与有意义依赖行为的方法。我们也质疑在大语言模型供应链中建立信任的意义。
引用
@article{arxiv.2405.16310,
title = {An Empirical Exploration of Trust Dynamics in LLM Supply Chains},
author = {Agathe Balayn and Mireia Yurrita and Fanny Rancourt and Fabio Casati and Ujwal Gadiraju},
journal= {arXiv preprint arXiv:2405.16310},
year = {2024}
}
备注
Paper accepted at the TREW workshop co-located with CHI'24