用于支持价值观与伤害反思对比的 AI 概念设想工具
人机交互
2026-05-04 v1
摘要
早期阶段的概念设想是 AI 设计中的关键节点，塑造了设计者如何界定问题以及随后决策的方向。然而，价值观和潜在伤害往往过于抽象或被处理得太晚，难以在设计中产生实质性影响。我们采用研究-通过-设计 (Research-through-Design, RtD) 方法，开发了 AI 概念设想工具包，包括 AI 能力库、24 组价值-伤害卡以及价值-张力图，以支持在 AI 技术能力中进行价值观与伤害的对比推理。通过对 30 名设计师的调查和对 12 名设计师的深度访谈，我们发现该工具包清晰易懂且被视为有价值的，并且鼓励价值反思，有助于预见潜在伤害，使伦理考虑在设计早期阶段更加透明。我们反思自己的设计过程，并讨论了促进价值和潜在伤害反思、呈现与导航价值张力、以及在整个设计工作流程中引入生产性摩擦的设计方法。
引用
@article{arxiv.2605.00282,
title = {Developing an AI Concept Envisioning Toolkit to Support Reflective Juxtaposition of Values and Harms},
author = {Pitch Sinlapanuntakul and Soyun Moon and Yuri Kawada and Yeha Chung and Mark Zachry},
journal= {arXiv preprint arXiv:2605.00282},
year = {2026}
}
备注
22 pages, 10 figures, 5 tables