连续机器学习系统中隐藏反馈回路的分析
机器学习
2021-01-19 v2 软件工程
摘要
在本概念论文中，我们讨论指定与验证连续及终身学习型人工智能系统质量时的复杂性，此类系统与其环境交互并施加影响，导致所谓的概念漂移。我们指明隐式反馈回路的问题，并以房价预测系统为例展示其如何干预用户行为。基于一个初步模型，我们强调了此类反馈回路出现的条件并讨论可能的解决途径。
引用
@article{arxiv.2101.05673,
title = {Analysis of hidden feedback loops in continuous machine learning systems},
author = {Anton Khritankov},
journal= {arXiv preprint arXiv:2101.05673},
year = {2021}
}
备注
7 pages, 9 figures; added more experiments, minor stylistic fixes and typos