面向教育中负责任与自适应 AI 的机器遗忘
计算机与社会
2025-11-13 v2 人工智能
摘要
机器遗忘(MU)已成为解决机器学习(ML)系统中持续挑战的一种有前景的方法。通过实现已学数据的选择性移除,MU 引入了保护性、纠正性和自适应能力,这些能力对于推进负责任和自适应 AI 至关重要。然而,尽管 MU 在其他领域日益受到关注,但在教育领域仍未得到充分探索,而该领域以敏感的学习者数据、动态环境以及算法决策的高风险影响为独特特征。本文探讨了 MU 作为在 ML 驱动的教育系统中实现负责任 AI 原则的机制和自适应 AI 基础的潜力。基于对 42 项同行评审研究的结构化综述,本文分析了关键的 MU 机制和技术变体,以及它们如何促进负责任和自适应 AI 的实际实现。确定了 MU 展现出显著前景的四个核心干预领域:隐私保护、对对抗性或损坏数据的鲁棒性、通过缓解偏见实现公平性,以及对不断变化环境的适应性。此外,将 MU 干预映射到教育 AI 固有的技术、伦理和教学挑战上。这种映射说明了 MU 作为一种战略机制的作用,通过确保模型随时间保持灵活性、可维护性和上下文相关性,来增强合规性、强化伦理保障并支持适应性。作为概念性贡献,本文引入了 MU4RAAI,一种将 MU 集成到教育背景下的负责任和自适应 AI 框架中的参考架构。因此,MU 不仅仅被定位为数据删除过程,而是被定位为确保教育 AI 系统保持道德性、适应性和可信度的变革性方法。
引用
@article{arxiv.2509.10590,
title = {Machine Unlearning for Responsible and Adaptive AI in Education},
author = {Betty Mayeku and Sandra Hummel and Parisa Memarmoshrefi},
journal= {arXiv preprint arXiv:2509.10590},
year = {2025}
}
备注
Accepted paper - ESORICS 2025 - International Workshop on Secure and Trustworthy Machine Unlearning Systems (STMUS)