Farsight：在AI应用原型设计过程中培养负责任AI意识
人机交互
2024-07-03 v2 人工智能
计算机与社会
机器学习
摘要
大型语言模型（LLM）的基于提示的界面使得原型设计和构建AI驱动的应用比以往任何时候都更容易。然而，识别AI应用可能产生的潜在危害仍然是一个挑战，特别是在基于提示的原型设计过程中。为了解决这个问题，我们提出了Farsight，一种新颖的现场交互式工具，帮助人们识别他们正在原型设计的AI应用的潜在危害。基于用户的提示，Farsight突出显示相关AI事件的新文章，并允许用户探索和编辑LLM生成的用例、利益相关者和危害。我们报告了与10名AI原型设计者的协同设计研究的设计见解，以及与42名AI原型设计者的用户研究结果。在使用Farsight后，我们用户研究中的AI原型设计者能够更好地独立识别与提示相关的潜在危害，并发现我们的工具比现有资源更有用、更易用。他们的定性反馈还强调，Farsight鼓励他们关注最终用户并思考即时危害之外的问题。我们讨论了这些发现，并反思了它们对设计有意义地参与AI危害的AI原型设计体验的影响。Farsight公开可访问：https://PAIR-code.github.io/farsight。
引用
@article{arxiv.2402.15350,
title = {Farsight: Fostering Responsible AI Awareness During AI Application Prototyping},
author = {Zijie J. Wang and Chinmay Kulkarni and Lauren Wilcox and Michael Terry and Michael Madaio},
journal= {arXiv preprint arXiv:2402.15350},
year = {2024}
}
备注
Accepted to CHI 2024 (Best Paper, Honorable Mention). 40 pages, 19 figures, 5 tables. For a demo video, see https://youtu.be/BlSFbGkOlHk. For a live demo, visit https://PAIR-code.github.io/farsight. The source code is available at https://github.com/PAIR-code/farsight