ExploreGen：大规模语言模型用于构想 AI 技术的应用与风险
人机交互
2024-07-18 v1
摘要
负责任的 AI 设计正逐渐被 AI 开发者与合规专家视为当务之急。其中关键任务之一是构想 AI 技术的应用与风险。近期的模型卡与数据卡研究表明，AI 从业者在此任务上存在困难。本文展示，利用大规模语言模型 (LLM) 可支持 AI 从业者完成此任务，通过实现反思、头脑风暴与 deliberation，尤其适用于 AI 开发过程的早期设计阶段。我们开发了 LLM 框架 ExploreGen，其生成 AI 技术的真实且多样的应用场景，包括研究中被忽略的情形，并根据欧盟 AI 法案法规对其风险等级进行分类。我们采用面部识别与分析技术作为案例，在九项由 25 名 AI 从业者参与的用户研究中对框架进行评估。我们的发现表明，ExploreGen 对开发者与合规专家都有帮助。他们对应用场景的真实性及风险分类的准确性均持高评价（94.5%）。此外，尽管对许多应用情形不熟悉，但他们仍认为其具有高度采纳潜力与变革性影响。
引用
@article{arxiv.2407.12454,
title = {ExploreGen: Large Language Models for Envisioning the Uses and Risks of AI Technologies},
author = {Viviane Herdel and Sanja Šćepanović and Edyta Bogucka and Daniele Quercia},
journal= {arXiv preprint arXiv:2407.12454},
year = {2024}
}