中文

鼠标引导的注视:用于阅读检测的意图感知表征半监督学习

人机交互 2025-09-25 v1

摘要

理解放大阅读过程中的用户意图对于无障碍界面设计至关重要。然而,放大功能会压缩视觉上下文,并强制持续拖动视口,产生碎片化、嘈杂的注视数据,并模糊阅读意图。我们提出了一个半监督框架,通过利用鼠标轨迹作为弱监督来学习意图感知的注视表征。该模型首先通过未标记的注视数据预训练以预测鼠标速度,然后进行微调以分类阅读与浏览。为了解决放大引起的失真,我们联合建模了放大视口内的原始注视和重新映射到原始屏幕的补偿视图,后者恢复了跨行和跨段落的连续性。在文本和网页数据集上,我们的方法始终优于监督基线,在具有挑战性的设置中,半监督预训练带来了高达 7.5% 的 F1 分数提升。这些发现突显了行为驱动的预训练对于鲁棒的纯注视交互的价值,为自适应、免提的无障碍工具铺平了道路。

关键词

引用

@article{arxiv.2509.19574,
  title  = {Mouse-Guided Gaze: Semi-Supervised Learning of Intention-Aware Representations for Reading Detection},
  author = {Seongsil Heo and Roberto Manduchi},
  journal= {arXiv preprint arXiv:2509.19574},
  year   = {2025}
}

备注

Accepted at NeurIPS 2025 Foundation Models for the Brain and Body NeurIPS 2025 Workshop