"我将LLM归类为生产力工具"：审视人机交互研究实践中LLM使用的伦理问题
人机交互
2024-04-01 v1
摘要
大型语言模型越来越多地应用于现实场景，包括研究和教育。然而，这些模型存在众所周知的伦理问题，由于与人机交互研究中广泛涉及人类受试者，这些问题可能以意想不到的方式显现。本文基于对16位HCI研究者的半结构化访谈和一项50人调查，报告了与LLM使用相关的研究实践。我们讨论了LLM在整个HCI研究流程（从构思到系统开发和论文撰写）中已经得到利用的方式。尽管研究者对伦理问题有细致入微的理解，但他们很少或仅能部分识别和解决自己项目中的这些伦理关切。这种缺乏行动和依赖变通做法的原因被解释为：在LLM供应链中感知到的缺乏控制和责任分散、参与伦理的条件性以及相互竞争的优先级。最后，我们反思了研究结果的含义，并提出了塑造HCI研究中与大型语言模型互动的新兴规范的机会。
引用
@article{arxiv.2403.19876,
title = {"I'm categorizing LLM as a productivity tool": Examining ethics of LLM use in HCI research practices},
author = {Shivani Kapania and Ruiyi Wang and Toby Jia-Jun Li and Tianshi Li and Hong Shen},
journal= {arXiv preprint arXiv:2403.19876},
year = {2024}
}