中文

生成式AI增强研究中的伦理挑战——面向负责任生成式AI使用的ETHICAL框架

计算机与社会 2025-01-17 v1 人工智能

摘要

生成式人工智能(GenAI)在研究中的快速采用既带来机遇,也带来应谨慎把握的伦理挑战。尽管GenAI工具可通过自动化文献综述和数据分析等任务提升研究效率,但其使用引发数据准确性、隐私、偏见和研究完整性等方面的担忧。本文构建ETHICAL框架,作为负责任在研究中使用GenAI的实用指南。我们采用建构主义案例研究方法,检视多个GenAI工具在实际研究情境中的应用。该框架包含七个关键原则:Examine policies and guidelines(审查政策与指南)、Think about social impacts(思考社会影响)、Harness understanding of the technology(运用对技术的理解)、Indicate use(指明用途)、Critically engage with outputs(批判性地参与输出)、Access secure versions(获取安全版本)和Look at user agreements(审查用户协议)。遵循这些原则将使研究人员在利用GenAI效益的同时,保持研究完整性。该框架填补了对伦理问题的意识与实际行动之间的空白,为研究人员提供了负责任整合GenAI的具体指导。本工作对研究实践、机构政策制定以及更广泛的学术社区具有意义,正适应AI增强的研究环境。ETHICAL框架可作为发展学术环境AI素养和促进研究方法创新负责任性的基础。

关键词

引用

@article{arxiv.2501.09021,
  title  = {Navigating Ethical Challenges in Generative AI-Enhanced Research: The ETHICAL Framework for Responsible Generative AI Use},
  author = {Douglas Eacersall and Lynette Pretorius and Ivan Smirnov and Erika Spray and Sam Illingworth and Ritesh Chugh and Sonja Strydom and Dianne Stratton-Maher and Jonathan Simmons and Isaac Jennings and Rian Roux and Ruth Kamrowski and Abigail Downie and Chee Ling Thong and Katharine A. Howell},
  journal= {arXiv preprint arXiv:2501.09021},
  year   = {2025}
}

备注

28 pages, 1 figure