AI 在平台治理的前线：用于数字服务法下非法内容报告的大语言模型
人机交互
2026-05-25 v1
摘要
非法内容报告机制是线上平台在欧盟数字服务法 (DSA) 下处理非法内容的关键技术和组织措施.第 16 条要求用户提交的通知内容充分且诚实,将用户置于难以置信的境地:他们必须解释法律和程序语言,并将模糊内容转化为具有法律意义的类别和原因.我们调查了基于大语言模型 (LLM) 的助手如何支持这一报告过程.在基于主要平台报告工作流程建模的受控用户研究中 (N=450),我们比较了三种情况:无辅助报告、传统可解释 AI 助手 (XAI) 提供单一法律类别及其依据,以及评估 AI 助手 (EvalAI) 在候选法律条款之间呈现平衡的支持与反对论点.我们进一步检视了这些辅助形式在系统变异的 AI 错误情境下的表现.我们的结果表明,EvalAI 在 AI 错误情境下提高了条款水平的准确性,并相对于传统 XAI 减少了误分类距离,尤其适用于接近 miss 和过度宽泛错误.当 AI 输出正确时,传统 XAI 启用更快的决策,但两种 AI 辅助形式都可靠地未提高用户已证明解释的质量,相对于无辅助报告仍未见改善.我们讨论了面向合规报告界面设计的影响,突出显示准确性、 deliberation、解释质量以及对误导性 AI 输出脆弱性之间的权衡.
引用
@article{arxiv.2605.23676,
title = {AI at the Front Lines of Platform Governance: Using LLMs to Support Illegal Content Reporting under the Digital Services Act},
author = {Marie-Therese Sekwenz and Shreyan Biswas and Rita Hermann-Gsenger and Ujwal Gadiraju},
journal= {arXiv preprint arXiv:2605.23676},
year = {2026}
}