强化自动短答评分系统的安全性与防御力度
计算与语言
2025-05-02 v1 密码学与安全
摘要
本研究考察了基于转换器的自动短答评分系统中的漏洞，重点关注通过对抗性游戏策略如何可能操控这些系统。我们的研究识别了三类主要的游戏策略，这些策略可能导致误报。为抵消这些漏洞，我们实施了几种对抗训练方法，以增强系统的鲁棒性。我们的结果表明，这些方法显著降低了评分系统对此类操纵的敏感性，尤其是当结合如多数投票和岭回归等集成技术时，进一步提高了系统对复杂对抗输入的防御能力。此外，采用如GPT-4等大语言模型并结合不同提示技术，显示出在识别和评分游戏策略方面的潜力。我们的发现凸显了持续改进AI驱动教育工具的重要性，以确保其在高风险环境中的可靠性和公平性。
引用
@article{arxiv.2505.00061,
title = {Enhancing Security and Strengthening Defenses in Automated Short-Answer Grading Systems},
author = {Sahar Yarmohammadtoosky and Yiyun Zhou and Victoria Yaneva and Peter Baldwin and Saed Rezayi and Brian Clauser and Polina Harikeo},
journal= {arXiv preprint arXiv:2505.00061},
year = {2025}
}