AI 辅助决策中的移动目标：数据漂移、模型更新与更新不透明问题
计算机与社会
2025-04-08 v1 人工智能
人机交互
机器学习
摘要
机器学习（ML）系统因数据漂移而随时间性能下降。为此，专家常建议定期更新 ML 系统以确保持续的性能稳定性。一些学术文献开始关注不同更新方法所涉及的认识论和伦理挑战。迄今为止，针对模型更新对 ML 辅助决策过程本身的影响（特别是在 AI 伦理和 AI 认识论文献中）关注不足。本文旨在弥补这一文献空白。它论证，模型更新引入了一种新的不透明类型到 ML 辅助决策中——更新不透明性——当用户无法理解更新如何或为何改变了 ML 系统的推理或行为时即发生。这种不透明类型提出了各种独特的认识论和安全问题，现有的解决黑箱问题的解决方案大多不具备应对能力。可以develop或 pursue 的替代策略包括双事实解释、动态模型报告和更新兼容性。然而，这些策略各自都有风险或显著局限。将来需要进一步研究来解决模型更新和更新不透明性所涉及的认识论和安全问题。
引用
@article{arxiv.2504.05210,
title = {A moving target in AI-assisted decision-making: Dataset shift, model updating, and the problem of update opacity},
author = {Joshua Hatherley},
journal= {arXiv preprint arXiv:2504.05210},
year = {2025}
}