循环中的僵尸？人类在伦理决策中信任不可信的 AI 顾问
人机交互
2021-11-03 v2 计算机与社会
摘要
与 AI 必须可信的观点不同，我们发现，即使使用者对 AI 驱动算法的训练数据一无所知，且了解到理应引发不信任的相关信息，他们仍会信任该算法给出的伦理建议。我们开展了在线实验，受试者扮演决策者角色，接收算法就如何应对伦理困境所提供的建议。我们对有关算法的信息进行了操控并研究其影响。研究结果表明，AI 被过度信任而非遭到质疑。我们提出以数字素养作为确保负责任使用 AI 的潜在对策。
引用
@article{arxiv.2106.16122,
title = {Zombies in the Loop? Humans Trust Untrustworthy AI-Advisors for Ethical Decisions},
author = {Sebastian Krügel and Andreas Ostermaier and Matthias Uhl},
journal= {arXiv preprint arXiv:2106.16122},
year = {2021}
}