人类在潜在循环中（HILL）：通过人类直觉交互式引导模型训练
机器学习
2025-05-13 v1 人工智能
摘要
潜在空间表征对于理解和改进机器学习模型的行为至关重要，但往往保持模糊和复杂。理解和探索潜在空间有望为各自领域的人类直觉和专业知识提供宝贵的见解。本文提出HILL框架，允许用户通过交互式重塑潜在空间表征来融入人类直觉。这些修改通过一种灵感于知识蒸馏的新方法注入模型训练循环，将用户的修改视为教师，以引导模型重塑其内在的潜在表征。该过程使模型更有效地收敛，克服效率不足，同时为用户提供有益见解。我们在用户研究任务中评估了HILL，任务要求参与者训练最优模型，密切观察所采用的策略。结果表明，人类引导的潜在空间修改可提升模型性能，同时保持泛化能力，但也揭示了纳入用户偏见的风险。本工作引入一种新的人机交互范式，将人类直觉融入模型训练，并深入考察了人类干预对训练策略及潜在偏见的影响。
引用
@article{arxiv.2505.06325,
title = {Human in the Latent Loop (HILL): Interactively Guiding Model Training Through Human Intuition},
author = {Daniel Geissler and Lars Krupp and Vishal Banwari and David Habusch and Bo Zhou and Paul Lukowicz and Jakob Karolus},
journal= {arXiv preprint arXiv:2505.06325},
year = {2025}
}