面向高等教育的生成式人工智能用例安全与隐私挑战分析
人机交互
2025-06-26 v1 计算机与社会
摘要
全球教育者和学习者正广泛拥抱生成式人工智能（GenAI）的崛起，这正在重塑高等教育。然而，GenAI 也引发了显著的隐私和安全问题，因为模型和隐私敏感的用户数据（如学生记录）可能被服务提供方滥用。不幸的是，最终用户往往对这些模型的运行方式几乎没有了解或控制。为此，大学正在 developing 制定制度性政策以指导 GenAI 用例，同时保障安全和隐私。本文审查了这些新兴的政策和指南，特别关注 GenAI 在高等教育中集成的隐私和安全维度，以及其他学术价值。通过对来自 12 个国家的大学的 GenAI 用例指南进行定性分析，我们识别出机构在提供有效隐私和安全保护方面所面临的关键挑战和机遇，包括为学术环境量身定制的 GenAI 安全措施的需求。
引用
@article{arxiv.2506.20463,
title = {Analyzing Security and Privacy Challenges in Generative AI Usage Guidelines for Higher Education},
author = {Bei Yi Ng and Jiarui Li and Xinyuan Tong and Kevin Ye and Gauthami Yenne and Varun Chandrasekaran and Jingjie Li},
journal= {arXiv preprint arXiv:2506.20463},
year = {2025}
}