探索缓解捷径行为的一种类型学
机器学习
2024-03-15 v6 人工智能
人机交互
摘要
随着机器学习模型日益增大，并在大规模、可能未筛选的数据集上弱监督训练，建立用于检查、交互和修订模型以缓解学习捷径并保证其习得知识与人类知识对齐的机制变得愈发重要。为此目的，最近提出的XIL框架被开发出来，并已引入若干此类方法，各自具有不同的动机与方法细节。在本工作中，我们通过建立一组公共基本模块，将各种XIL方法统一为单一类型学。由此，我们为现有（更重要的是未来）XIL方法的系统性比较铺平了道路。此外，我们讨论现有并引入新的度量与基准，用于评估XIL方法的整体能力。鉴于这一包含我们的类型学、度量和基准的广泛工具箱，我们最终从方法论和定量上比较了几种近期XIL方法。在我们的评估中，所有方法均被证明能成功修订模型。然而，我们发现各基准任务间存在显著差异，揭示了将这些基准整合到未来方法开发中的有价值的应用相关方面。
引用
@article{arxiv.2203.03668,
title = {A Typology for Exploring the Mitigation of Shortcut Behavior},
author = {Felix Friedrich and Wolfgang Stammer and Patrick Schramowski and Kristian Kersting},
journal= {arXiv preprint arXiv:2203.03668},
year = {2024}
}