当信任为零和：自动化对认知能动性的威胁
计算机与社会
2024-08-20 v2
摘要
AI 研究者和伦理学家长期以来一直担忧自动化对人类尊严、自主性以及与工作相关的个人价值感构成的威胁。通常提出的解决方案侧重于减少自动化导致的失业数量、重新培训失业者或缓解失业的社会后果。然而，即使在工人保住工作的情况下，他们在工作中的能动性也可能被严重削弱。例如，人类员工可能与 AI 一起工作，但不被允许做出决策，或不被允许在不与 AI 协商或达成一致的情况下做出决策。这是一种认知伤害（如果基于身份偏见分配，则可能是不公正）。它削弱了人类的能动性（通过限制人们独立行动的能力），并且未能承认员工作为合格专家的认知能动性。在这种情况下，工人没有得到他们应得的信任。这意味着即使在所有人都保住工作的情况下，人类尊严问题仍然存在。进一步地，以工作保留为导向的解决方案，例如设计一个与人类员工协同工作的算法，可能只会助长这些伤害。在这里，我们提出了一种替代设计方案——对抗协作，它既解决了自动化的传统保留问题，也解决了工作场所中 AI 与人类之间认知伤害和信任分配这一更大的潜在问题。
引用
@article{arxiv.2408.08846,
title = {When Trust is Zero Sum: Automation Threat to Epistemic Agency},
author = {Emmie Malone and Saleh Afroogh and Jason DCruz and Kush R Varshney},
journal= {arXiv preprint arXiv:2408.08846},
year = {2024}
}