TRIED:WITNESS开发的真正创新且有效的人工智能检测基准
计算机与社会
2025-05-02 v2 人工智能
摘要
生成式人工智能和欺骗性合成媒体的扩散威胁了全球信息生态系统,尤其是跨越大多数国家的地区。在此背景下,WITNESS的报告指出,当前人工智能检测工具在实际场景中常表现不佳,主要受到可解释性、公平性、可访问性和情境相关性等挑战的制约。为此,WITNESS提出了“真正创新且有效的人工智能检测”(TRIED)基准框架,基于其在实际影响和创新能力上的评估标准。该报告综合了前线经验、欺骗性AI案例以及全球咨询结果,阐述了检测工具如何才能真正创新且相关,需要满足多样化的语言、文化和技术背景。报告提供了针对开发者、政策参与者和标准制定机构的实用指导,帮助其设计可持续、透明且以用户为中心的检测解决方案,并将社会技术考量纳入未来AI标准、程序和评估框架。通过采用TRIED基准,利益相关者可推动创新,维护公众信任,加强AI素养,构建更具韧性的全球信息信誉体系。
引用
@article{arxiv.2504.21489,
title = {TRIED: Truly Innovative and Effective AI Detection Benchmark, developed by WITNESS},
author = {Shirin Anlen and Zuzanna Wojciak},
journal= {arXiv preprint arXiv:2504.21489},
year = {2025}
}
备注
33 pages