中文

认知信任作为伦理整合机制:来自70次道德想象工作坊的失败模式与设计原则

计算机与社会 2026-04-14 v1

摘要

自下而动的负责任创新计划旨在赋能技术开发团队参与伦理反思,但此类干预措施常常未能实现实践者的参与。为何有的伦理干预能够成功,而有的则被视为无关、对抗或与工作脱节?本文提出认知信任——即实践者对干预措施、其促进者及其内容是否被视为可信、相关且可操作的程度——作为将干预设计与参与结果联系起来的概念模型。基于哲学中的证词论工作,以及2019年至2025年期间对70多个道德想象工作坊的实践性定性分析,我们确定了五个与伦理干预相关的认知信任维度(相关性、包容性、主体性、权威性和一致性),并提出了23种当这些维度未得到充分解决时产生的失败模式类型学。我们基于通过技术道德情景和结构化 deliberation 进行的道德想象操作化,推导出九项培育认知信任的设计原则。我们的发现为协作社会技术整合文献贡献了具体的采纳条件,这些条件在现有框架中未得到充分理论化。我们认识到局限性,包括自愿参与带来的选择效应以及缺乏正式结果测度,並将失败模式类型学定位为值得进一步实证验证的实践假设。

关键词

引用

@article{arxiv.2604.11281,
  title  = {Epistemic Trust as a Mechanism for Ethics Integration: Failure Modes and Design Principles from 70 Moral Imagination Workshops},
  author = {Benjamin Lange and Geoff Keeling and Kyle Pedersen and Carmen Heringer and Susan B. Rubin and Ben Zevenbergen and Amanda McCroskery},
  journal= {arXiv preprint arXiv:2604.11281},
  year   = {2026}
}

备注

41 pages, 2 tables