用于作弊团伙检测的人在回路 AI
计算机与社会
2024-03-25 v1 人工智能
人机交互
机器学习
摘要
近年来，由于在线考试的便捷性，其变得日益普及。然而，关于在线考试的安全性引发了一些担忧，特别是在专业作弊服务帮助恶意考生通过考试、形成所谓“作弊团伙”的情况下。在本文中，我们介绍了一种用于检测和威慑这些作弊团伙的人在回路 AI 作弊团伙检测系统。我们概述了这种人在回路 AI 系统的底层逻辑，探讨了为实现检测作弊者目标而量身定制的设计原则。此外，我们阐述了用于评估其性能和公平性的方法，旨在减轻与 AI 系统相关的意外风险。该系统的设计和开发遵循负责任的 AI (RAI) 标准，确保在整个开发过程中融入伦理考量。
引用
@article{arxiv.2403.14711,
title = {Human-in-the-Loop AI for Cheating Ring Detection},
author = {Yong-Siang Shih and Manqian Liao and Ruidong Liu and Mirza Basim Baig},
journal= {arXiv preprint arXiv:2403.14711},
year = {2024}
}
备注
Accepted to the AI4Ed Workshop at AAAI 2024 as a short paper