自适应机器学习系统的历时和同步变异：伦理挑战
人机交互
2025-04-15 v1 人工智能
计算机与社会
机器学习
摘要
目标：机器学习（ML）有望在医学领域实现“持续学习”，即在部署于临床环境后，系统仍能通过暴露于新数据而持续演化。在本文中，我们为医学领域中此类“自适应”ML系统所引发的伦理问题提供了一份教程，此前文献中未予关注。目标受众：本教程的目标受众为机器学习AI系统的开发者、 healthcare 监管者、更广泛的医学信息学社区以及实践中的临床医生。范围：迄今为止关于自适应ML系统的讨论忽略了此类系统可能呈现的两种变异类型——历时演变（time evolution，即随时间变化）和同步变异（difference between cotemporaneous instantiations of the algorithm at different sites，即不同站点处同时实例化算法的差异），且低估了后者的重要性。我们强调了历时演变和同步变异对患者护理质量、知情同意和公平性所带来的挑战，并讨论了此类系统设计中涉及的复杂伦理权衡。
引用
@article{arxiv.2504.08861,
title = {Diachronic and synchronic variation in the performance of adaptive machine learning systems: The ethical challenges},
author = {Joshua Hatherley and Robert Sparrow},
journal= {arXiv preprint arXiv:2504.08861},
year = {2025}
}