VIGIL：用于实时检测和缓解认知偏差触发器的可扩展系统
计算与语言
2026-04-22 v2 计算机与社会
人机交互
摘要
生成式AI的兴起正向在线信息完整性和公共话语构成日益增加的风险。其中最具体的风险是误导和虚假信息的形成。作为缓解措施，已开发了面向信息事实性和信息来源可靠性与意识形态倾向的媒体素养和透明度工具。然而，更隐蔽但同样可能造成严重危害的是利用人类认知偏差及相关认知局限进行说服或操纵。到目前为止，尚无工具可直接检测和缓解此类认知偏差触发器在线信息中的存在。我们提出了VIGIL（VIrtual GuardIan angeL），首个面向实时认知偏差触发器检测和缓解的浏览器扩展程序，提供同步滚动检测、LLM驱动的语义重构及完全可逆的改写，以及从完全离线到云端的隐私分层推理。VIGIL 设计可通过第三方插件实现可扩展，已包含若干经过NLP基准严格验证的插件。该项目开源于 https://github.com/aida-ugent/vigil。
引用
@article{arxiv.2604.03261,
title = {VIGIL: An Extensible System for Real-Time Detection and Mitigation of Cognitive Bias Triggers},
author = {Bo Kang and Sander Noels and Tijl De Bie},
journal= {arXiv preprint arXiv:2604.03261},
year = {2026}
}